IA pode ser uma ‘maçã venenosa’, alertam especialistas

A inteligência artificial generativa (IA) pode ser uma “maçã envenenada”, de acordo com um relatório conjunto de especialistas, incluindo o Prof. Fujio Toriumi da Universidade de Tóquio e o Prof. Tatsuhiko Yamamoto da Universidade Keio.

Divulgado na segunda-feira, o relatório é o segundo documento desse tipo compilado pelos especialistas desde janeiro de 2022.

O relatório de 2022 enfatizou a importância da “saúde da informação”, referindo-se à capacidade dos usuários da Internet de resistir à desinformação por meio do consumo de conteúdo de diversas fontes.

O relatório mais recente inclui problemas associados à IA generativa e alerta que o texto gerado pode ser disseminado sem conhecimento sobre o material de origem usado para produzir o conteúdo.

Como as ferramentas generativas de IA podem produzir respostas aparentemente plausíveis às consultas, a tecnologia pode ser uma “maçã envenenada” que afeta adversamente nossa “saúde da informação”, de acordo com os especialistas.

O relatório também se refere aos papéis que devem ser desempenhados pelas empresas de telecomunicações e agências de publicidade e aborda a educação e a alfabetização em TI.

Os especialistas propuseram a introdução de um sistema para medir a “saúde da informação” e o desenvolvimento de materiais educativos de alfabetização em TI, entre outras recomendações.

O documento de 2022 destacou questões como notícias falsas e “bolhas de filtro”, nas quais os internautas encontram apenas informações que reforçam suas próprias crenças.

O último relatório envolveu 16 coautores, incluindo o professor Kuniyoshi Sakai, da Universidade de Tóquio, especializado em neurociência da linguagem. Toriumi é especialista em ciências sociais computacionais e Yamamoto é especialista em direito constitucional.

“Gostaríamos de promover o conceito de ‘saúde da informação’ não apenas no Japão, mas também em todo o mundo”, disse Yamamoto.