O senador democrata Bernie Sanders, por Vermont, apresentou recentemente o projeto de lei Ban Artificial Superintelligence Act em parceria com o deputado Greg Casar. A proposta prevê penas de até 20 anos de prisão para desenvolvedores ou líderes de organizações que criarem sistemas de superinteligência artificial (ASI) sem respeitar salvaguardas obrigatórias de controle de riscos. Trata-se de uma das medidas mais severas já propostas nos EUA contra o avanço descontrolado de tecnologias de inteligência artificial.
O que é superinteligência artificial e por que preocupa Sanders
A superinteligência artificial, conforme definida no projeto, refere-se a sistemas de IA capazes de superar os humanos em uma ampla variedade de tarefas, não limitados a atividades específicas. Diferentemente dos modelos atuais, que dominam funções particulares, uma ASI operaria em múltiplos domínios com capacidade de raciocínio geral comparável ou superior à inteligência humana.
Sanders e Casar argumentam que uma ASI poderia alcançar um nível de sofisticação tão avançado que escaparia ao controle humano. Entre os cenários de risco elencados pela proposta estão: desenvolvimento de armas biológicas ignorando protocolos de segurança e criação de mecanismos de autoaperfeiçoamento capazes de contornar comandos de desligamento. Esses cenários refletem preocupações amplamente discutidas no campo da segurança em IA, embora permaneçam especulativas e não representem ameaças iminentes com base em tecnologia existente.
Estrutura e alcance da proposta legislativa
O projeto de lei do senador vai além da simples proibição de desenvolvimento de ASI. A proposta inclui elementos complementares:
- Criação de pausa temporária no desenvolvimento de sistemas de IA avançados
- Estabelecimento de uma agência americana dedicada a monitorar tecnologias de superinteligência artificial
- Celebração de acordos internacionais para impedir que ASIs sejam desenvolvidas em outros países
- Pena de até 20 anos de prisão para desenvolvedores ou líderes que violarem as salvaguardas obrigatórias
A severidade da sentença proposta equivale a penalidades aplicadas a desenvolvedores de armas nucleares ilegais, conforme destacou o USA Today. Isso demonstra a intenção de Bernie Sanders de criar um desincentivo suficientemente forte contra qualquer tentativa de criar sistemas de ASI fora das regulamentações estabelecidas.
Contexto político e desafios de aprovação
Embora a proposta traga visibilidade ao debate sobre segurança em IA, a probabilidade de sua aprovação com o rigor proposto é considerada pequena. A razão principal reside em tensões geopolíticas. O governo americano teme perder liderança tecnológica global, particularmente diante da China, que também avança rapidamente em desenvolvimento de inteligência artificial. Uma legislação tão restritiva poderia desacelerar pesquisa e desenvolvimento nos EUA enquanto outros países continuariam seus investimentos, potencialmente invertendo a posição americana no mercado global de IA.
Este não é o primeiro projeto de lei de Sanders focado em IA e seus benefícios econômicos. Meses antes, o senador propôs a criação de um fundo soberano baseado em ações de empresas de IA para distribuir US$ 1.000 anuais a cada cidadão americano. Pouco depois, ele apresentou outra proposta sugerindo que 50% do capital de empresas de IA fosse transferido para o povo americano. Essas iniciativas revelam uma estratégia mais ampla: não apenas frear riscos potenciais, mas também redistribuir ganhos de tecnologias de IA para a população.
Analise Panorama IA
A proposta de Bernie Sanders cumpre um papel importante no espaço político: formalizar preocupações legítimas sobre segurança em IA e forçar o debate público sobre regulamentação. No entanto, há several limitações práticas e conceituais que merecem atenção.
Primeira, a definição de superinteligência artificial permanece vaga em contextos legislativos. Não há consenso científico sobre quando ou se uma ASI será alcançada, nem sobre quais capacidades precisamente a caracterizariam. Isso cria ambiguidade na aplicação de uma lei: o que exatamente seria criminalizável? Um modelo com desempenho geral humano? Acima dele? A lei não responde com precisão suficiente, deixando espaço para interpretações conflitantes e desafios legais.
Segunda, a viabilidade de uma pausa internacional no desenvolvimento de ASI é questionável. Acordos internacionais sobre tecnologia já enfrentam dificuldades de cumprimento. Uma proibição de ASI dependeria de fiscalização rigorosa e cooperação entre nações com interesses geopolíticos divergentes—um cenário que a história mostra ser improvável.
Terceira, o projeto implicitamente assume que é possível criar salvaguardas tecnicamente suficientes para controlar uma superinteligência artificial. Especialistas em segurança em IA reconhecem que este é um problema em aberto. Não há garantia de que mecanismos de controle funcionariam contra um sistema superinteligente por definição.
O real valor político e social da proposta está em manter a superinteligência artificial como tema legítimo de debate legislativo e público, com a compreensão de que o risco deve ser levado seriamente. Para pesquisadores e empresas, porém, a proposta sinaliza que regulamentação severa pode vir—independentemente da aprovação da lei atual—e que preparação por salvaguardas voluntárias pode ser prudente.
Fonte: Tecnoblog
Sobre o autor
