O procurador-geral da Flórida anunciou na terça-feira que seu escritório lançou uma investigação legal sobre OpenAI depois de revisar registros de conversas entre seu chatbot de IA generativo, ChatGPT, e um Universidade Estadual da Flórida estudante acusado de matar duas pessoas e ferindo vários outros depois de abrir fogo no campus em abril passado.
“Meus promotores analisaram isso e me disseram que se fosse uma pessoa do outro lado da tela, nós os estaríamos acusando de assassinato”, disse o procurador-geral James Uthmeier durante um noticiário. conferência Terça-feira. O suspeito do tiroteio, Phoenix Ikner, se declarou inocente de duas acusações de homicídio em primeiro grau e sete acusações de tentativa de homicídio em primeiro grau. Seu julgamento é agendado começará em outubro, mostram os registros do tribunal.
Uthmeier disse que sua equipe determinou que o ChatGPT ofereceu “conselhos significativos” ao suposto atirador, aconselhando-o sobre que tipo de arma usar e se seria eficaz a curto alcance.
Ele disse que a Flórida está emitindo intimações à OpenAI solicitando registros das políticas da empresa e materiais de treinamento para quando os usuários fizerem ameaças de prejudicar a si mesmos ou a terceiros. O gabinete também está a intimar materiais de formação relativos à cooperação com as autoridades policiais e políticas para denunciar possíveis crimes.
Um porta-voz da OpenAI disse em comunicado à CBS Information na terça-feira que a empresa identificou uma conta que se acredita estar associada a Ikner e a compartilhou com as autoridades. A empresa afirmou que o ChatGPT “não encorajou ou promoveu atividades ilegais ou prejudiciais” e que o bot forneceu respostas factuais a perguntas com informações que poderiam ser encontradas em fontes públicas na web.
“O tiroteio em massa do ano passado na Florida State College foi uma tragédia, mas o ChatGPT não é responsável por este crime terrível”, disse a OpenAI em seu comunicado.
A empresa disse que continuará a cooperar com as autoridades e está trabalhando continuamente para fortalecer as salvaguardas, detectar intenções prejudiciais e limitar o uso indevido.
Os registros de bate-papo compartilhados pelo Gabinete do Procurador do Estado da Flórida com a CBS Information revelam mensagens entre o suspeito e o ChatGPT nas quais Ikner perguntava sobre a letalidade de certos cartuchos de espingarda, se os atiradores de escolas foram enviados para prisões de segurança máxima e se três vítimas de tiros na FSU atrairiam a atenção da mídia.
Ele também questionou o bot sobre o período de maior movimento no sindicato estudantil da FSU – onde ocorreu o tiroteio mortal mais tarde.
