Escritório de advocacia de elite se desculpa por erros em processos criados por ‘alucinações’ de IA
Por Santul Nerkar (The New York Times)
Fonte: O Estadão
Um escritório de advocacia de elite de Wall Street pediu desculpas a um juiz
federal dos Estados Unidos por ter apresentado um processo judicial repleto de
erros criados por inteligência artificial, incluindo “alucinações” que fabricaram
citações de casos.
Os erros gerados por IA foram apresentados em uma recente moção no Tribunal
de Falências dos EUA em Manhattan e foram descobertos por advogados de um
escritório adversário, escreveu Andrew Dietderich, sócio da Sullivan & Cromwell,
em uma carta ao juiz Martin Glenn em 18 de abril.
“Lamentamos profundamente que isso tenha ocorrido”, escreveu Dietderich.
A empresa forneceu um registro dos cerca de 36 erros, que se estendiam por três
páginas. Vários deles envolviam a citação de passagens aparentemente
imaginárias de casos reais. Alguns eram erros administrativos que, segundo a
empresa, não estavam relacionados à IA.
A Sullivan & Cromwell é um dos escritórios de advocacia mais antigos e de maior
prestígio do país. Ele está representando o presidente Donald Trump em vários
recursos, incluindo sua condenação criminal em 2024 em um caso que se
originou de um pagamento de suborno a uma estrela pornô. Jay Clayton, atual
procurador dos EUA para o Distrito Sul de Nova York, era consultor e
anteriormente sócio do escritório.
O pedido de desculpas revelou o mais recente erro embaraçoso de advogados
que usaram a IA para elaborar argumentos errôneos. A profissão jurídica está
passando por um acerto de contas com relação ao uso crescente e generalizado
da IA, que está atraindo advogados que lidam com pesquisas volumosas, mesmo
tendo a propensão de dizer falsidades jurídicas.
Uma série de casos nos últimos anos mostrou os perigos que o uso de IA
representa para os advogados. Em 2023, um juiz federal de Manhattan multou
dois advogados em US$ 5 mil depois que eles apresentaram um resumo de casos
inventados pelo ChatGPT.
A American Bar Association instruiu os advogados a serem cautelosos ao enviar
solicitações a modelos de IA ou ao obter resultados. Dietderich escreveu em sua
carta que as políticas da empresa que regem o uso de IA “não foram seguidas”
na preparação da moção.
Não está claro quais ferramentas ou programas de IA foram usados pela Sullivan
& Cromwell para gerar os erros. Um porta-voz da empresa não quis comentar. A
notícia da carta foi relatada anteriormente pela Reuters.
As alucinações apresentadas pela Sullivan & Cromwell surgiram em um caso
envolvendo o Prince Group, um conglomerado cambojano cujo fundador, Chen
Zhi, foi indiciado no Tribunal Distrital Federal do Brooklyn no ano passado sob a
acusação de operar uma operação global de fraude.
Seus advogados e representantes negaram as acusações. Chen, que não estava
nos Estados Unidos quando a acusação foi anunciada, foi extraditado do Camboja
para a China em janeiro.
Em 8 de abril, várias entidades comerciais associadas ao Prince Group que foram
incorporadas nas Ilhas Virgens Britânicas entraram com pedido de falência em
Manhattan. A Sullivan & Cromwell está representando um grupo de pessoas
nomeadas pelas autoridades das Ilhas Virgens Britânicas para supervisionar os
ativos liquidados do Prince Group naquele território.
Alguns dos erros foram identificados por advogados do Boies Schiller Flexner, o
escritório de advocacia que representa o Prince Group, em um processo público.
Um porta-voz da empresa não quis comentar. Após tomar conhecimento dos
erros, escreveu Dietderich, a empresa realizou uma revisão de todos os outros
registros do caso. As alucinações da IA foram contidas em um único registro,
escreveu ele.
De acordo com a carta de Dietderich, a Sullivan & Cromwell exige que seus
advogados façam um curso de treinamento antes de obter acesso às ferramentas
de IA. Entre as advertências do treinamento, escreveu Dietderich, está a de “não
confiar em nada e verificar tudo”.