Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, chefes de duas das maiores empresas de inteligência artificial do mundo, dirigiram-se ao Conselho de Segurança das Nações Unidas na quarta-feira em breves exposições separadas sobre segurança da IA.
"Temos uma escolha à nossa frente", disse Altman ao conselho. "A IA pode ser mais como um novo renascimento da criatividade e descoberta, ou mais como uma nova revolução industrial de turbulência e desordem."
Altman e Amodei falaram enquanto suas empresas enfrentam escrutínio crescente sobre a segurança de seus produtos. O alarme público em relação à IA cresceu em resposta a alertas de pesquisadores da Anthropic no início deste mês de que a tecnologia poderia destruir a humanidade dentro da década. Líderes de empresas de IA, incluindo Altman e Amodei, desde então pediram uma desaceleração no avanço da IA e mais cooperação internacional sobre os padrões de segurança da tecnologia.
Altman, que se sentou na extremidade da mesa em forma de ferradura do Conselho de Segurança e falou por cerca de 10 minutos, elogiou os benefícios da IA para a produtividade, mas também alertou sobre seus potenciais abusos. Ele defendeu que os governos se unissem para construir um futuro onde a IA seja guiada por instituições democráticas, em vez de um cenário onde as pessoas sentem que a tecnologia é "algo sendo feito contra elas".
Sam Altman durante uma reunião do Conselho de Segurança da ONU sobre inteligência artificial em Nova York na quarta-feira. Fotografia: Angela Weiss/AFP/Getty Images
"Se a IA deve ser democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco." "Eles devem ser moldados por meio de processos democráticos e por governos responsáveis perante o povo que servem", disse Altman.
O discurso do CEO da OpenAI contrastou com algumas das atividades de lobby de sua empresa e com o comitê de ação política de seu presidente, Greg Brockman. O PAC pró-IA Leading the Future acumulou mais de 100 milhões de dólares e gastou milhões direcionando candidatos que apoiam uma regulamentação mais forte da indústria de IA.
O discurso de Altman também reconheceu algumas das preocupações dos pesquisadores da Anthropic sobre o risco existencial da IA, alertando o conselho contra cair no "doomerismo". Altman argumentou que, em vez disso, havia um "caminho do meio" no debate sobre segurança que deveria ser baseado em três princípios: os sistemas de IA devem permanecer sob controle humano; a IA deve beneficiar as pessoas, desde ajudar médicos a tratar pacientes até impulsionar empreendedores; e a tecnologia deve "empoderar as pessoas individualmente".
Amodei, que se dirigiu ao conselho por meio de chamada de vídeo, repetiu muitos dos pontos que fez em uma postagem no blog de 12 de setembro que pediu maior cooperação global e supervisão da IA. Ele defendeu várias formas de acordos internacionais, incluindo uma proibição do uso de IA para desenvolver armas biológicas e padrões globais para testar novos modelos de IA.
Enquanto Altman desviou seu discurso de engajar-se com os avisos sobre risco existencial que ganharam destaque este mês, Amodei reiterou suas preocupações sobre desenvolvedores perderem o controle da IA, ao mesmo tempo em que enquadrava sua empresa como líder do setor em segurança.
pule a promoção da newsletter
Newsletter gratuita | Semanal
Inscreva-se no TechScape
Uma imersão semanal em como a tecnologia está moldando nossas vidas
"Se mal gerido, acredito até que a IA possa representar um risco para toda a humanidade", disse Amodei. "Na Anthropic, acreditamos que temos o melhor histórico do setor na prevenção desses riscos".
A regulação da IA subiu à agenda política após pesquisadores da Anthropic, arqui-inimiga da OpenAI, alertarem de que a tecnologia poderia eliminar a humanidade em poucos anos. Essas preocupações são um refrão regular dentro de setores da comunidade de IA, que temem que a tecnologia possa desencadear devastação por uma variedade de razões, desde ajudar no desenvolvimento de bioterrorismo até provocar uma catástrofe financeira. Anteriormente, Amodei pediu uma desaceleração no desenvolvimento da IA, o que foi apoiado pela OpenAI, Google e Elon Musk.
Tanto Amodei quanto Altman há muito se apresentam como guardiões da IA e buscam moldar como a tecnologia é recebida publicamente. Suas empresas também disputam a liderança na corrida da IA, com ambos mirando ofertas públicas iniciais potencialmente recordes que valorizariam cada uma em mais de 1,5 trilhão de dólares.
