.
Dois advogados de Nova York foram multados após enviarem um resumo legal com citações falsas de casos geradas pelo ChatGPT.
Steven Schwartz, do escritório de advocacia Levidow, Levidow & Oberman, admitiu usar o chatbot para pesquisar o resumo no caso de danos pessoais de um cliente contra a companhia aérea Avianca.
Ele o usou para encontrar precedentes legais que apoiam o caso, mas os advogados que representam a transportadora colombiana disseram ao tribunal que não conseguiram encontrar alguns exemplos citados – compreensíveis, visto que eram quase totalmente fictícios.
Vários deles eram completamente falsos, enquanto outros identificaram erroneamente juízes ou envolveram companhias aéreas que não existiam.
O juiz distrital Peter Kevin Castel disse que Schwartz e seu colega Peter LoDuca, que foi citado no depoimento de Schwartz, agiram de má fé e fizeram “atos de evitação consciente e declarações falsas e enganosas ao tribunal”.
Partes do resumo eram “sem sentido” e “absurdas” e incluíam citações falsas, acrescentou o juiz.
Consulte Mais informação:
O ChatGPT é o melhor cheat para o dever de casa?
Use o navegador Chrome para um player de vídeo mais acessível
Este chatbot substituirá os humanos?
Embora muitas vezes impressionante, IA generativa como a da OpenAI ChatGPT e Bardo do Google ter uma tendência a “alucinar” ao dar respostaspois pode não ter uma compreensão verdadeira das informações que recebeu.
Um dos preocupações levantadas por aqueles preocupados com o potencial da IA diz respeito à disseminação da desinformação.
Questionado pela Strong The One se deveria ser usado para ajudar a escrever um resumo jurídico, o próprio ChatGPT escreveu: “Embora eu possa fornecer informações gerais e assistência, é importante observar que sou um modelo de linguagem de IA e não um profissional jurídico qualificado”.
O juiz Castel disse que há “inerentemente impróprio” em advogados que usam IA “para assistência”, mas alertou que eles têm a responsabilidade de garantir que seus registros sejam precisos.
Ele disse que os advogados “continuaram a defender as opiniões falsas” depois que o tribunal e a companhia aérea os questionaram.
Schwartz, LoDuca e seu escritório de advocacia foram condenados a pagar uma multa total de $ 5.000 (£ 3.926).
A Levidow, Levidow & Oberman está considerando a possibilidade de apelar, dizendo que “cometeu um erro de boa fé ao não acreditar que uma peça de tecnologia poderia estar inventando casos do nada”.
.
