IAs podem se autodestruir, diz estudo
Uso de inteligência artificial para gerar conteúdo online pode dar um curto-circuito nos algoritmos dos robôs. Entenda por que.
Por
SEGUIR
SEGUINDO
20 jul 2023, 14h06 •
As inteligências artificiais como o ChatGPT foram alimentadas com enorme quantidade de textos da internet (elas analisaram esses textos para mapear as relações entre as palavras, e a partir disso se tornaram capazes de entender perguntas e construir respostas).
Mas no futuro, com o uso crescente de IAs para gerar sites e textos online, esse processo pode dar um curto-circuito. É o que afirmam cientistas das universidades de Oxford e Cambridge, que publicaram um estudo (1) apontando isso.
Eles demonstraram que, quando uma IA é “treinada” com textos que também foram gerados por IA, seu algoritmo se deteriora de forma progressiva.
O robô vai esquecendo as reais relações entre os dados e gera respostas cada vez mais incorretas, até chegar a um estado que os pesquisadores chamaram de “colapso do modelo” – no qual o algoritmo se torna incapaz de se recuperar, não importa quanto poder de processamento tenha à disposição.
Fonte 1. The curse of recursion: training on generated data makes models forget. I Shumailov e outros, 2023.
ACESSO LIVRE COM VIVO FIBRA