Ganhador de Nobel, executivos da OpenAI e Anthropic e mais alertam para 'explosão de inteligência' da IA
Um relatório com mais de 100 autores entre eles altos executivos da OpenAI e da Anthropic e até mesmo coescrito pelo ganhador do Prêmio Nobel Geoffrey Hinton e pelo cientista da computação canadense Yoshua Bengio, considerados os padrinhos da IA moderna, alerta para uma ‘explosão de inteligência’ da inteligência artificial.
Segundo eles, esse poderá ser o desenvolvimento tecnológico mais importante da história.
O texto defende que os políticos a agirem agora antes que haja um progresso descontrolado na tecnologia.
Os autores afirmam estar preocupados com uma ‘explosão de inteligência’, que descrevem como uma ‘aceleração drástica do progresso da IA impulsionada pela IA, comprimindo avanços que levariam anos em meses ou menos’.
O artigo, intitulado ‘E se a automação da P&D em IA desencadear uma explosão de inteligência?’, tem como autores mais de 100 pessoas, incluindo Hinton e Bengio. Outros autores do artigo incluem Jack Clark, cofundador da Anthropic, e Jakub Pachocki, cientista-chefe da OpenAI.
Suas preocupações se concentram na possibilidade de as IAs serem capazes de se aprimorarem sem intervenção humana, um processo conhecido como ‘autoaperfeiçoamento recursivo’.
No artigo, isso é amplamente referido como pesquisa e desenvolvimento automatizados de IA. Uma vez que os sistemas de IA atinjam capacidades de nível especializado em P&D de IA, um único desenvolvedor poderia gerenciar uma força de trabalho equivalente a “milhões” de pesquisadores humanos de ponta, afirma o artigo.
Sede da OpenAI. — Foto: Divulgação
Os autores afirmam que a automatização da pesquisa e desenvolvimento em IA é a fonte mais provável de uma explosão de inteligência, porque as IAs já estão contribuindo para o aprimoramento de sua própria tecnologia e os sistemas aprimorados resultantes podem ser implantados rapidamente assim que forem construídos.
‘Uma explosão de inteligência artificial pode ser o desenvolvimento tecnológico mais impactante da história da humanidade, comprimindo anos de progresso em meses ou menos, ameaçando o controle humano sobre os sistemas de IA e corroendo severamente os mecanismos de controle do poder dentro e entre estados, empresas e ramos do governo’, diz o artigo.
Defendendo que os governos ajam rapidamente, os autores afirmam: ‘Uma vez iniciada a explosão de informações de inteligência, a janela de oportunidade para agir pode se fechar’.
Eles recomendaram um conjunto de três prioridades políticas: exigir relatórios de progresso transparentes sobre P&D relacionada à IA, incluindo a incorporação de auditores independentes nas empresas; encontrar maneiras de restringir o desenvolvimento desenfreado da IA; e se preparar para se adaptar a uma explosão de inteligência.
A Anthropic e a OpenAI concordaram em ter seus modelos avaliados por peritos independentes, após alertarem que o desenvolvimento da IA estava atingindo um ponto crítico em termos de segurança.
A Anthropic afirma que a IA agora produz 80% do seu próprio código, enquanto a OpenAI utiliza agentes de IA autônomos em áreas como o treinamento de novos modelos.
‘Evidências preliminares sugerem que uma explosão de inteligência impulsionada por software é possível’, afirma o artigo, acrescentando que isso levaria ao ‘desenvolvimento extremamente rápido de sistemas de IA altamente capazes ou sobre-humanos’.
Empresa de inteligência artificial Anthropic. — Foto: SEBASTIEN BOZON / AFP
Embora isso possa gerar avanços médicos e saltos tecnológicos, traria consigo três riscos: sistemas poderosos poderiam viabilizar ameaças biológicas e cibernéticas que se desenvolvem mais rapidamente do que as medidas necessárias para combatê-las; à medida que os humanos se envolvem menos em pesquisa e desenvolvimento de IA, podem perder a oportunidade de controlar os sistemas; os Estados poderiam usar uma explosão de inteligência para transformar uma pequena vantagem em áreas como o ciberespaço em uma vantagem decisiva.
O relatório reconhece que esses impactos são ‘incertos’. Por exemplo, um avanço tecnológico pode levar tempo para ser implementado, dada a necessidade de estabelecer cadeias de suprimentos para quaisquer materiais especiais envolvidos ou de cumprir regulamentações. Os sistemas de IA também podem acelerar a mitigação de riscos, afirmam os autores.
Caso essa inovação ocorra, afirmam os autores, os sistemas de IA poderão rapidamente eclipsar os especialistas humanos na maioria das áreas e ‘acelerar radicalmente’ o progresso tecnológico. Preparar-se para isso ‘deveria ser uma prioridade urgente, inclusive nos mais altos escalões da liderança governamental’.
Apesar de algumas falhas apresentadas pelos sistemas, como desobediência a instruções, projetos de P&D que levariam meses para serem realizados por humanos poderão ser totalmente automatizados por IA até 2028.
‘Os ganhos de produtividade com a automação de P&D por IA ainda não atingiram o limiar necessário para desencadear uma explosão de inteligência, mas os ganhos com sistemas mais recentes provavelmente estão se aproximando desse limiar’, afirmaram
