O MIT listou todos os jeitos em que a IA pode dar ruim

A adoção de sistemas de Inteligência Artificial (IA) envolve riscos consideráveis, desde a possibilidade de viés e disseminação de desinformação até preocupações mais graves, como o uso na criação de armas biológicas ou químicas e a perda de controle sobre as máquinas. Para mitigar esses riscos, é essencial compreendê-los primeiro.

Assine a newsletter o Futuro Explicado 

O MIT, através do grupo FutureTech, desenvolveu um repositório que documenta mais de 700 potenciais riscos associados a sistemas avançados de IA. Essa base de dados é a mais abrangente já criada, consolidando informações de artigos acadêmicos sobre os perigos que podem surgir com o desenvolvimento e uso dessas tecnologias.

Escute aqui o episódio desta semana do podcast RESUMIDO 

A maioria dos riscos identificados está relacionada à segurança e robustez dos sistemas (76%), viés injusto e discriminação (63%) e comprometimento da privacidade (61%). Menos frequentes, mas igualmente importantes, são os riscos mais abstratos, como a criação de IA capaz de sentir dor ou experimentar “morte”. A análise revela que a maior parte dos riscos só é detectada após a IA ser disponibilizada ao público, destacando a necessidade de monitoramento contínuo após o lançamento dos modelos.

Leia mais no MIT Tech Review.