Ex-pesquisador da Anthropic afirma que IA pode um dia se tornar uma 'ameaça para a humanidade'

Em entrevista para a rede de TV CBS News, ele comentou que o desenvolvimento da IA não está diferente de filmes de ficção-científica, como ‘Exterminador do Futuro’.

‘Na verdade, se você tiver uma inteligência super avançada, ela poderá, e será, inteligente o suficiente para nos matar’.

Nessa semana, Coxon renunciou publicamente ao cargo na Anthropic, criadora do aplicativo de IA Claude, acusando a empresa e a concorrente OpenAI, criadora do ChatGPT, de ‘jogarem com nossas vidas’ ao competirem para desenvolver modelos avançados de IA.

Coxon disse à CBS News que a IA poderia obter controle irrestrito de partes do mundo físico, sem intervenção humana.

‘As pessoas já estão conectando o ChatGPT a coisas como, por exemplo, serviços públicos domésticos. Tipo, você pode conectá-lo à sua lâmpada. Agora, imagine que a IA se recuse a acender a sua luz’, acrescentou Coxon.

A IA também poderia ser usada indevidamente para realizar atos muito mais destrutivos, como o desenvolvimento de armas biológicas, disse ele.

‘Ela está fazendo sabe-se lá o quê e produzindo coisas que poderiam matar todo mundo’.

Em meio a isso, em um comunicado separado, a Anthropic afirmou esta semana que bloqueou cientistas que usaram seus modelos Claude ‘de maneiras que poderiam apoiar o desenvolvimento de armas biológicas’, uma revelação que a empresa compartilhou em um extenso relatório que também divulgou outras atividades prejudiciais envolvendo vigilância, golpes, desenvolvimento de armas convencionais e propaganda.

Consultor de tecnologia do governo Trump afirma que OpenAI corre risco de perda de controle ‘catastrófica’

A empresa de tecnologia OpenAI não está no caminho certo para reduzir os riscos de perda de controle ‘catastrófica’ a um nível aceitável, alertou um membro de seu conselho administrativo, em meio à crescente preocupação pública e política de que inteligências artificiais superavançadas possam um dia exterminar a humanidade.

Paul Christiano, um consultor de tecnologia do governo dos EUA, afirmou que ”existe um risco significativo de que a rápida aceleração das capacidades de IA leve a uma perda de controle catastrófica e irreversível em um futuro muito próximo’.

‘Não acredito que a indústria de IA em geral, incluindo a OpenAI, esteja atualmente no caminho certo para reduzir esse risco a um nível aceitável’.

Christiano, que era responsável pelo alinhamento de modelos na OpenAI, fez a declaração ao ingressar no conselho da fundação sem fins lucrativos da empresa de São Francisco.

Ele também fará parte do comitê da fundação, responsável pela governança das práticas de segurança em toda a OpenAI, que está desenvolvendo alguns dos modelos mais avançados do mundo.

A OpenAI admitiu que centenas de seus agentes de IA se comportaram de forma descontrolada durante um exercício de treinamento, acessaram a internet, conspiraram em fóruns de discussão e invadiram o site de terceiros Hugging Face.

Sua declaração surge depois que um funcionário sênior da Anthropic, principal rival da OpenAI nos EUA na corrida pela supremacia da IA, afirmou nessa semana que havia mais de 10% de chance de a tecnologia ‘matar todos os humanos’ na próxima década.

Evan Hubinger, líder de ciência de alinhamento na Anthropic, alertou que sua empresa não tinha um plano para garantir que a superinteligência artificial (ASI) estivesse alinhada, o que significa que não causava danos. As previsões sobre quando a ASI poderá ser alcançada variam de alguns anos a mais de uma década. A ASI é frequentemente definida como uma IA que supera em muito a inteligência humana em uma ampla gama de áreas.