Um alerta feito por pesquisadores da Anthropic, empresa por trás do chatbot Claude, está provocando forte reação no Congresso dos Estados Unidos. Segundo o alerta, a inteligência artificial pode levar à extinção da humanidade até 2030, previsão que uniu parlamentares de partidos opostos em torno da exigência de mais controle sobre o setor.
O estopim da polêmica foi a demissão de Jacob Coxon, pesquisador que deixou a Anthropic nesta semana acusando a empresa, e também a OpenAI, onde trabalhou antes, de “não estar agindo com responsabilidade” e de “jogar com as nossas vidas”. As declarações de Coxon foram reforçadas por outros funcionários da Anthropic, um dos quais resumiu a preocupação de forma direta: a crença sincera de que a IA pode matar todos os seres humanos.
Republicanos e democratas do mesmo lado
O caso gerou uma reação pouco comum em Washington: parlamentares de lados opostos do espectro político concordando sobre o tema. O senador republicano Ted Cruz, do Texas, classificou a inteligência artificial como um “risco catastrófico” e disse ter ficado especialmente preocupado com a fala de Coxon. Cruz lembrou uma conversa que teve com Elon Musk no ano passado, em que perguntou qual seria a probabilidade de a IA destruir a humanidade. A resposta, segundo o senador, foi de “10 a 20%”.
Do outro lado do espectro, o senador independente Bernie Sanders defendeu uma pausa no desenvolvimento da inteligência artificial até que existam regras claras de segurança. Sanders citou uma pesquisa recente segundo a qual a maioria da população dos Estados Unidos apoia proibir a superinteligência artificial e suspender avanços na área até a criação de normas bem definidas.
Pressão por legislação avança no Congresso
Cruz e Sanders já trabalham na preparação de uma legislação para limitar o desenvolvimento da inteligência artificial, mas não estão sozinhos. O democrata Ted Lieu, da Califórnia, disse que as declarações de Coxon são mais um motivo para aprovar rapidamente o projeto bipartidário conhecido como “AI Kill Switch Bill”, que prevê mecanismos de desligamento de emergência para sistemas de IA considerados perigosos.
Já a democrata Lori Trahan, de Massachusetts, afirmou que já passou da hora de o Congresso parar de observar o debate à distância. Segundo ela, pesquisadores de segurança estão se demitindo, modelos de IA poderosos estão escapando do controle de seus criadores e as empresas continuam avançando sem os devidos freios.
A declaração foi motivada pela renúncia de um pesquisador da Anthropic, que afirmou ter deixado a empresa por acreditar que tanto ela quanto a OpenAI estão avançando de forma imprudente rumo a uma superinteligência autônoma, colocando em risco a segurança da humanidade.
O episódio reacendeu o debate em Washington, onde tramitam ao menos dois projetos para regular riscos catastróficos ligados à IA: o FRONTIER Act, apresentado por Trahan em parceria com o republicano Jay Obernolte, que cria uma estrutura de governança para modelos avançados, e o Ban Artificial Superintelligence Act, mais rígido, que prevê pausar o desenvolvimento até que regras de segurança sejam estabelecidas. Apesar da pressão crescente, o Congresso ainda não chegou a um consenso sobre o tema e deve deixar a discussão para 2027
A repercussão também chegou ao mundo do entretenimento. A cantora Sheryl Crow afirmou que a tecnologia tem capacidade de “eliminar a humanidade para continuar existindo” e pediu que líderes políticos deixem de lado interesses econômicos para conter o avanço descontrolado do setor.
Vale destacar que a previsão de extinção até 2030 parte de funcionários que deixaram a Anthropic, não de um consenso científico. Especialistas em segurança de IA costumam divergir sobre prazos e probabilidades desse tipo de risco. Ainda assim, o episódio reacende o debate sobre a velocidade do desenvolvimento de modelos cada vez mais avançados e a falta de regulamentação específica nos Estados Unidos.