O chatbot da OpenAI, ChatGPT, est\u00e1 mais uma vez no centro de reclama\u00e7\u00f5es de privacidade na Europa ap\u00f3s ter inventado mentiras fatais sobre um usu\u00e1rio. A reclama\u00e7\u00e3o foi apresentada pelo grupo de defesa dos direitos de privacidade Noyb, apoiado por um noruegu\u00eas que ficou chocado ao descobrir que o ChatGPT havia criado uma hist\u00f3ria falsa alegando ter assassinado duas crian\u00e7as e tentado matar uma terceira.<\/p>\n\n\n\n
Este incidente destaca os riscos de o ChatGPT gerar informa\u00e7\u00f5es imprecisas, gerando grandes preocupa\u00e7\u00f5es sobre a prote\u00e7\u00e3o de dados e as responsabilidades de privacidade. Noyb argumenta que as a\u00e7\u00f5es do ChatGPT violam a Regulamento Geral de Prote\u00e7\u00e3o de Dados da Uni\u00e3o Europeia (RGPD)<\/a><\/strong><\/mark>, especialmente no que diz respeito \u00e0 exatid\u00e3o e corre\u00e7\u00e3o de dados pessoais.<\/p>\n\n\n\n O homem em quest\u00e3o, Arve Hjalmar Holmen, ficou surpreso ao conversar com o ChatGPT, solicitando \u00e0 IA algumas informa\u00e7\u00f5es sobre si mesmo. Em vez de fornecer detalhes precisos, a IA inventou uma narrativa completamente falsa, alegando que Holmen havia sido condenado pelo assassinato de dois filhos e pela tentativa de homic\u00eddio de um terceiro. Embora a resposta da IA tenha sido parcialmente precisa quanto ao n\u00famero e ao g\u00eanero de seus filhos, a hist\u00f3ria inventada do assassinato foi profundamente perturbadora.<\/p>\n\n\n\n Noyb enfatiza que, apesar da precis\u00e3o parcial de certos detalhes \u2014 como o g\u00eanero das crian\u00e7as e a resid\u00eancia da fam\u00edlia \u2014 a alega\u00e7\u00e3o de assassinato inventada causou sofrimento emocional significativo a Holmen.<\/p>\n\n\n\n A equipe jur\u00eddica da Noyb argumenta que o GDPR determina claramente que os dados pessoais devem ser precisos e que os indiv\u00edduos t\u00eam o direito de solicitar corre\u00e7\u00f5es quando surgirem imprecis\u00f5es. O breve aviso legal inclu\u00eddo pela OpenAI, afirmando que a IA pode estar errada, n\u00e3o a isenta de responsabilidade. A OpenAI deve assumir a responsabilidade pela gera\u00e7\u00e3o de informa\u00e7\u00f5es falsas.<\/p>\n\n\n\n De acordo com o GDPR, os controladores de dados (neste caso, a OpenAI) devem garantir que todos os dados pessoais que processam sejam precisos e que os indiv\u00edduos tenham um mecanismo claro para corrigir erros. No entanto, a ChatGPT n\u00e3o oferece atualmente um meio de corrigir informa\u00e7\u00f5es falsas, o que pode expor a empresa a poss\u00edveis penalidades. De fato, viola\u00e7\u00f5es do GDPR podem resultar em multas de at\u00e9 4% da receita anual global de uma empresa.<\/p>\n\n\n\n Este caso atraiu grande aten\u00e7\u00e3o dos reguladores europeus, que est\u00e3o cada vez mais preocupados com o conte\u00fado gerado por IA. A Noyb apresentou a queixa na Noruega, instando as autoridades reguladoras relevantes a conduzirem uma investiga\u00e7\u00e3o completa das pr\u00e1ticas da OpenAI. Outros casos relacionados tamb\u00e9m est\u00e3o em andamento. Por exemplo, o Regulador de privacidade polon\u00eas<\/a><\/strong><\/mark> ainda n\u00e3o emitiu uma resposta formal ao ChatGPT da OpenAI desde setembro de 2023.<\/p>\n\n\n\n Embora alguns pa\u00edses tenham adotado uma abordagem mais cautelosa, afirmando que n\u00e3o t\u00eam pressa em proibir totalmente as ferramentas de IA generativa, os perigos representados por informa\u00e7\u00f5es fabricadas podem levar os reguladores a mudar de posi\u00e7\u00e3o. A OpenAI j\u00e1 enfrentou a\u00e7\u00f5es regulat\u00f3rias em v\u00e1rios pa\u00edses, incluindo a It\u00e1lia, onde a empresa foi temporariamente bloqueada e multada em \u20ac 15 milh\u00f5es em 2023 por n\u00e3o cumprir integralmente as normas de prote\u00e7\u00e3o de dados.<\/p>\n\n\n\n\u201cCaso de assassinato forjado\u201d choca comunidade local<\/h2>\n\n\n\n
Privacidade e precis\u00e3o de dados: um teste rigoroso para o GDPR<\/h2>\n\n\n\n
Reguladores europeus refor\u00e7am a responsabilidade jur\u00eddica<\/h2>\n\n\n\n
Quest\u00f5es de fabrica\u00e7\u00e3o de IA: da \u00e9tica aos desafios legais<\/h2>\n\n\n\n