Ana Frazão e Caitlin Mulholland discutem se a IA tem o dever legal de dizer a verdade

No episódio deste mês do podcast Direito Digital, nossa sócia Ana Frazão e a professora Caitlin Mulholland discutem se a Inteligência Artificial (IA) tem o dever legal de dizer a verdade.

Elas levantam pontos essenciais de um tema tão urgente, citando especialistas e teóricos da ética que acreditam que deveríamos criar um dever legal para os provedores de IA, responsabilizando os desenvolvedores pela precisão das saídas que suas IAs produzem. 

Afinal, ao permitir que um chatbot de IA ofereça informações errôneas ou enganosas, corremos o risco de danificar a confiança pública em setores vitais, como a ciência, a educação e as decisões políticas. 

Escuta o podcast: https://open.spotify.com/episode/5SoEnP1oPDDe6XoPP86DoW

Ana Frazão participa do Seminário Responsabilidade Civil em Perspectiva: Desafios das Novas Tecnologias

No próximo dia 13 de setembro, nossa sócia Ana Frazão participa do Seminário Responsabilidade Civil em Perspectiva: Desafios das Novas Tecnologias, promovido pelo Centro de Estudos Jurídicos da PGE-RJ, Instituto Brasileiro de Estudos de Responsabilidade Civil (IBERC) e o Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (Idp).

Ana fala sobre Inteligência Artificial (IA) como nova forma de terceirização da atividade empresarial e seus impactos sobre a responsabilidade de sociedades empresárias personificadas.

O painel, que tem início às 10h, conta com a participação de Flaviana Rampazzo (PUC-RS), Eugênio Facchini Neto (PUC-RS) e Marília Sampaio (IDP). Joaquim Pedro Rohr, subprocurador-Geral do Estado do Rio de Janeiro, faz a moderação.

O evento presencial acontece nos dias 12 e 13 de setembro, a partir das 9h, no Auditório Machado Guimarães, no edifício-sede da PGE-RJ, na cidade do Rio de Janeiro (RJ).

Para saber mais, acesse: https://docs.google.com/forms/d/e/1FAIpQLSeXpaSezhoGxfLXxlSr9To6Koyv3gIipzFIvJQcIb_G0vv_zg/viewform

Ana Frazão participa do “1º Simpósio de Proteção à Privacidade a aos Dados Pessoais”

No próximo dia 29 de agosto, às 16h, nossa sócia Ana Frazão participa do “1º Simpósio de Proteção à Privacidade a aos Dados Pessoais”, realizado pela Ordem dos Advogados de Campinas (OAB-Campinas).

Ana discute as avaliações de impacto na intersecção entre a LGPD penal e o uso de inteligência artificial na segurança pública.

O evento online, com transmissão pelo canal da OAB-Campinas no YouTube, se propõe a debater os 6 anos da Lei Geral de Proteção de Dados (LGPD).

Para saber mais e se inscrever, acesse: https://mla.bs/f343a1f3

Ana Frazão participa hoje, 19/8, do evento “Impactos da inteligência artificial no constitucionalismo contemporâneo”

Nossa sócia Ana Frazão participa hoje, 19/8, do evento “Impactos da inteligência artificial no constitucionalismo contemporâneo”, que reúne ministros do Supremo Tribunal Federal (STF) e especialistas nacionais e internacionais no tema.

Ana fala no segundo painel, que discute as potencialidades e os riscos da Inteligência Artificial (IA), ética e regulação na era digital. A mesa é moderada por Aline Osório e conta com a participação de Juan David Gutierrez e Caio César Vieira Machado.

Na sessão de abertura participam os ministros do STF Luís Roberto Barroso, e Gilmar Mendes, além da ministra do Tribunal Superior Eleitoral (TSE) Edilene Lôbo.

O evento, que acontece presencialmente na sala de sessões da Primeira Turma do STF, é realizado pela Corte, com apoio do IDP e do Bicentenário das Relações Diplomáticas entre os Estados Unidos e o Brasil.

Para saber mais, acesse: https://noticias.stf.jus.br/postsnoticias/stf-debate-impactos-da-inteligencia-artificial-no-direito-com-presenca-de-ministros-e-especialistas/

 

“As falhas da inteligência artificial generativa do Google” é o título do novo artigo da nossa sócia Ana Frazão

“As falhas da inteligência artificial generativa do Google” é o título do novo artigo da nossa sócia Ana Frazão, publicado hoje (7/8) em sua coluna no JOTA.

Ana cita exemplos de sugestões bizarras apresentadas pela Inteligência Artificial (IA) generativa do Google para questionar a necessidade de regulação de IA.

Dentre os erros mais divulgados pela imprensa, estão as sugestões de utilizar cola em pizza, comer uma pedra por dia, beber pelo menos dois litros de urina para se livrar mais rapidamente de pedras nos rins, dentre outros.

“O recente exemplo do Google é, portanto, mais um a nos mostrar que não serão as soluções de mercado e as iniciativas espontâneas das empresas que irão nos proteger diante dos riscos e danos que podem ser gerados pela inteligência artificial”, diz Ana

Leia o artigo na íntegra no PDF abaixo ou no link: https://portal.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/as-falhas-da-inteligencia-artificial-generativa-do-google-07082024

Ana Frazão e a professora Caitlin Mulholland falam sobre a decisão da Autoridade Nacional de Proteção de Dados

No podcast Direito Digital deste mês, nossa sócia Ana Frazão e a professora Caitlin Mulholland falam sobre a decisão da Autoridade Nacional de Proteção de Dados (ANPD) que determinou que a Meta suspenda a validade da nova política de privacidade no Brasil. 

Esta política permitia o uso de dados pessoais de publicações abertas de usuários, como fotos e textos, para treinar sistemas de inteligência artificial (IA) generativa, sem oferecer contrapartidas ou informações detalhadas sobre o uso desses dados. A prática foi criticada na Europa e no Brasil pelo Instituto de Defesa de Consumidores (Idec).

A ANPD identificou várias violações potenciais à Lei Geral de Proteção de Dados (LGPD), incluindo a ausência de hipótese legal apropriada. Além disso, houve falta de transparência, já que a divulgação das novas políticas de privacidade não fornecia informações claras e precisas aos usuários sobre como seus dados seriam utilizados. Outro ponto crucial foi o tratamento de dados de crianças e adolescentes, para o qual a Meta não adotou salvaguardas adequadas.

A Meta foi notificada para suspender a nova política e o tratamento de dados pessoais para IA generativa, sob pena de multa diária de R$50.000. 

Escute o podcast: https://open.spotify.com/episode/2s4j6Om8BSNNq6z4VokUyw

Ana Frazão fala sobre ChatGPT e sua utilização pelo Poder Judiciário

Na coluna do JOTA desta semana, nossa sócia Ana Frazão fala sobre ChatGPT e sua utilização pelo Poder Judiciário.

Ana analisa o recente julgamento do Conselho Nacional de Justiça (CNJ) referente a utilização do ChatGPT para a confecção de atos processuais, destacando preocupações legítimas sobre os altos riscos envolvidos. 

Embora a decisão tenha reconhecido as limitações e falhas da Inteligência Artificial (IA), bem como a necessidade de uma análise criteriosa baseada em princípios éticos, jurídicos e constitucionais, não resultou em medidas concretas.

Na visão de Ana, “trata-se de julgamento preocupante pois, diante de tantas dúvidas e riscos, o mais prudente seria vedar a utilização do ChatGPT ou pelo menos condicioná-la às devidas salvaguardas, dentre as quais as já previstas pela própria Resolução CNJ 332/2020″.

Leia o artigo no site: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/chatgpt-e-sua-utilizacao-pelo-poder-judiciario-17072024

Ana Frazão publicou o artigo na UNIO – EU Law Journal

Nossa sócia Ana Frazão publicou o artigo “Regulation of artificial intelligence in Brazil: examination of Draft Bill no. 2338/2023” na UNIO – EU Law Journal, revista eletrônica científica da Universidade do Minho, Portugal.

O artigo tem como objetivo explorar os desafios enfrentados pelo Projeto de Lei nº 2338/2023 em seu propósito de implementar a regulação baseada em risco da inteligência artificial (IA) no Brasil. 

Com base no AI Act europeu, primeiro conjunto de normas destinado a regulamentar o uso de IA dentro da União Europeia (UE), o artigo descreve a classificação brasileira de riscos e seus impactos para a regulação, as regras de governança, a aplicação prática dos princípios de prevenção e precaução e a responsabilidade administrativa e civil.

Leia o artigo em inglês na íntegra: https://revistas.uminho.pt/index.php/unio/article/view/5842/6519

Angelo Carvalho integrou o grupo de elaboração do “Guidelines on the Use of Artificial Intelligence in Arbitration”

Nosso sócio Angelo Prata de Carvalho integrou o grupo de elaboração do “Guidelines on the Use of Artificial Intelligence in Arbitration”, produzido pela Silicon Valley Arbitration & Mediation Center.

O guia propõe diretrizes para o uso de ferramentas de inteligência artificial (IA) na arbitragem nacional e internacional. 

Essas diretrizes se encontram divididas em três capítulos trazendo caminhos aplicáveis a todos os participantes do processo de arbitragem, um capítulo dedicado somente às partes e seus representantes, e por fim, algumas considerações específicas para os árbitros que venham a usar IA. 

Para baixar o guia completo em inglês, acesse: https://svamc.org/wp-content/uploads/SVAMC-AI-Guidelines-First-Edition.pdf

Ana Frazão participa da “Febraban Tech 2024”, que está em sua 34ª edição

No dia 25 de junho, às 17h15, nossa sócia Ana Frazão participa da “Febraban Tech 2024”, evento de tecnologia e inovação do setor financeiro que está em sua 34ª edição.

Ana fala em painel que discute o desafio da regulamentação na implementação de inteligência artificial (IA) ao lado de Diana Troper, Eduardo Sasaki, Tiffany Bigio e Fernanda Corvino.

Neste ano, o congresso tem como tema “A jornada responsável na nova Economia da IA” e vai debater os principais temas de inovação e do setor financeiro, entre eles, inteligência artificial responsável, economia tokenizada, inteligência de dados, nuvem, cibersegurança, agro 5.0, ESG, open finance, DREX, entre outros. 

Ao todo são 110 painéis realizados entre os dias 25 e 27 de junho, no Transamérica Expo Center, em São Paulo (SP). 

Para mais informações sobre o evento, acesse: https://www.febrabantech.com/.