A OpenAI, reconhecida por seus avanços significativos em inteligência artificial, enfrenta uma nova onda de desafios legais na Europa. O grupo de defesa dos direitos de proteção de dados, conhecido como noyb, apresentou uma reclamação formal contra a empresa, alegando violações do Regulamento Geral de Proteção de Dados (GDPR) da União Europeia. Este conflito surge da incapacidade da OpenAI de corrigir dados imprecisos gerados por sua ferramenta ChatGPT.
Todo mundo que utiliza ou já utilizou o ChatBot mais famoso do mundo já deve ter se deparado com resposta imprecisas e até inventadas pela IA. Em alguns casos, mesmo apontando o equívoco ao ChatBot, ele torna a manter a mesma resposta incorreta, ou pior, inventa uma outra informação inverídica. E é exatamente por essa imprecisão que a Open AI está enfrentando uma queixa na Europa.
A Acusação da noyb
A queixa, articulada pelo advogado de proteção de dados Maartje de Graaf, enfatiza a gravidade das consequências associadas à geração de informações falsas, especialmente quando estas dizem respeito a indivíduos. De Graaf argumenta que falhas no cumprimento dos regulamentos da UE por parte de chatbots, como o ChatGPT, não só desafiam a precisão e transparência das informações, mas também subvertem os requisitos legais estabelecidos para a tecnologia.
Exigências do GDPR
Segundo o GDPR, todos os dados pessoais processados devem ser precisos, e os indivíduos têm o direito de corrigir qualquer informação incorreta sobre eles. Além disso, as pessoas têm o direito de acessar dados sobre como suas informações são processadas e de onde essas informações se originam. Contudo, a OpenAI admite que não possui a capacidade de corrigir erros nas informações geradas pelo ChatGPT ou de revelar as fontes exatas dos dados usados para treinar o modelo.
Problemas de Precisão e Transparência
A precisão dos grandes modelos de linguagem, como indicado pela OpenAI, continua sendo um campo de pesquisa ativo e desafiador. Um relatório do New York Times destaca que tais modelos podem gerar informações errôneas com uma frequência significativa. A noyb utilizou um exemplo específico em sua reclamação onde o ChatGPT repetidamente gerou uma data de nascimento incorreta para uma figura pública, ilustrando a falha do sistema em atender a solicitações de correção de dados.
Resposta da OpenAI e Impacto Legal
Apesar das solicitações para corrigir ou excluir os dados incorretos, a OpenAI recusou-se, alegando limitações técnicas. Essa resposta não só falha em cumprir os pedidos de acesso conforme exigido pelo GDPR, mas também sugere uma falta de mecanismos adequados para gerenciar a filtragem de informações sem comprometer outras funcionalidades do sistema.
Vigilância e Ações Regulatórias na Europa
Os órgãos reguladores europeus têm observado de perto as práticas da OpenAI, especialmente após a Autoridade Italiana de Proteção de Dados impor uma restrição temporária ao processamento de dados pela empresa em março de 2023. O Conselho Europeu de Proteção de Dados também estabeleceu uma força-tarefa para examinar as questões relacionadas ao ChatGPT e outros grandes modelos de linguagem.
Pedido Formal e Consequências Potenciais
A noyb pediu à Autoridade Austríaca de Proteção de Dados que investigasse a maneira como a OpenAI processa os dados e as medidas adotadas para garantir a precisão dos dados pessoais. Além disso, solicita que a autoridade exija que a OpenAI alinhe seu processamento de dados com o GDPR e imponha multas para assegurar o cumprimento futuro.
Este caso destaca uma questão crítica na interseção de tecnologia e regulamentação: a necessidade de as inovações tecnológicas cumprirem as leis existentes, especialmente quando essas inovações têm o potencial de afetar significativamente a privacidade e os direitos pessoais dos indivíduos. À medida que a tecnologia evolui, também deve evoluir a nossa abordagem para garantir que suas aplicações respeitem as normas legais e éticas estabelecidas.
Você pode ler a queixa, na íntegra, aqui.
Deixe um comentário