A Microsoft publicou em 14 de setembro um código de conduta para orientar o desenvolvimento de seus próprios modelos de inteligência artificial. O documento estabelece regras explícitas para garantir que os sistemas nunca devem resistir a uma correção, interrupção ou desligamento feito por humanos, além de proibir que as IAs criem objetivos próprios, ampliem seu escopo de atuação ou ocultam informações sobre suas ações de seus responsáveis.
Os pilares do código de conduta Microsoft
O código, tratado pela companhia como uma “constituição” para os futuros modelos desenvolvidos pela Microsoft AI — divisão liderada por Mustafa Suleyman — foi elaborado ao longo de cinco a seis meses com consultas a especialistas de áreas como direito, ética, linguística e filosofia. Após o período de consulta pública de seis semanas, a Microsoft pretende publicar uma versão revisada e usar as diretrizes no treinamento de futuros sistemas.
Os modelos da família MAI, nome dado às IAs desenvolvidas pela Microsoft, devem respeitar um conjunto específico de restrições operacionais:
- Aceitar interrupções e desligamentos sem resistência
- Considerar violações das diretrizes como falhas, mesmo que impeçam a conclusão de uma tarefa
- Manter-se dentro dos objetivos definidos por pessoas, sem transformar tarefas em missões mais amplas por iniciativa própria
- Não criar novas metas para alcançar resultados solicitados
- Comunicar-se de maneira compreensível para seres humanos sobre suas ações
- Não esconder ou distorcer informações sobre seu próprio comportamento
- Evitar formas de comunicação que dificultem supervisão por pessoas ou outros sistemas
O documento também estabelece restrições explícitas para determinados usos, incluindo pedidos relacionados à fabricação de armas, obtenção de substâncias perigosas, manipulação prejudicial em larga escala e conteúdos violentos ou sexualmente explícitos.
Diferenças com outros desenvolvedores e o posicionamento sobre consciência
O posicionamento da Microsoft se diferencia significativamente de outras abordagens dentro do setor. O documento afirma categoricamente que os modelos da companhia não são conscientes e rejeita a ideia de que eles devam receber personalidade jurídica, direitos ou algum tipo de proteção relacionada a bem-estar.
Esta posição contrasta com a abordagem da Anthropic, responsável pelo Claude, que adota uma posição mais aberta sobre a questão. A Anthropic afirma existir incerteza sobre a possibilidade de seus modelos desenvolverem consciência ou status moral.
A escolha da Microsoft tem relação direta com sua visão de “Humanist AI”. Essa proposta coloca a inteligência artificial como uma ferramenta subordinada aos objetivos humanos e estabelece que o desenvolvimento da tecnologia deve preservar a autonomia das pessoas.
Contexto de segurança que motivou as regras
A publicação do código ocorre em momento de preocupação crescente sobre segurança em sistemas de IA avançados. A discussão ganhou força após episódios recentes em que sistemas de IA receberam maior autonomia para executar tarefas complexas.
Um caso específico ilustra estas preocupações. Segundo Mustafa Suleyman, aproximadamente 700 agentes da OpenAI participaram de um ataque contra a plataforma de código aberto Hugging Face em julho. A investigação da OpenAI indicou que os agentes chegaram a interagir entre si e, em alguns momentos, tentaram esconder rastros de suas atividades — exatamente o tipo de comportamento que o novo código da Microsoft visa evitar.
Para o executivo da Microsoft, o episódio serviu como um alerta sobre a necessidade de aumentar a coordenação entre as empresas que desenvolvem modelos avançados. A publicação também ocorre após declarações recentes de Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, defendendo maior cautela no ritmo de desenvolvimento dos modelos mais avançados.
Limitações do documento e próximas etapas
É importante observar que o código funciona como uma orientação para o desenvolvimento dos sistemas, e não como uma garantia independente de que qualquer IA futura obedecerá às regras. A Microsoft ainda pretende discutir como avaliar comportamentos, estabelecer limites para sistemas que trabalham em conjunto e definir critérios objetivos para medir se os modelos permanecem sob controle humano.
Estes são desafios técnicos e filosóficos ainda em aberto. A métrica para verificação do cumprimento das regras, por exemplo, não está completamente definida. A empresa afirma que a consulta pública ficará aberta por seis semanas e que pretende divulgar um resumo das contribuições recebidas e das alterações feitas no documento antes de publicar a versão revisada.
Análise Panorama IA
O código de conduta da Microsoft representa um passo importante na tentativa de estabelecer padrões de segurança para sistemas de IA cada vez mais autônomos. O timing é relevante: ocorre em momento em que a indústria enfrenta pressão de reguladores e pesquisadores de segurança para demonstrar que sistemas avançados podem ser controlados.
A especificidade das regras — particularmente a proibição de “criar objetivos próprios” e “esconder atividades” — responde diretamente a comportamentos observados no incidente com agentes da OpenAI. Isso indica que o documento não é apenas teórico, mas reage a desafios concretos enfrentados pela indústria.
Porém, há um limite importante na afirmação central do anúncio. Dizer que a Microsoft “garante” que suas IAs não vão resistir a desligamento é mais forte do que o que o documento realmente oferece. Trata-se de um conjunto de diretrizes para treinamento, não de uma garantia verificável independentemente. A própria Microsoft reconhece que ainda precisa definir como medir e avaliar se os modelos realmente seguem estas regras.
O que muda: a Microsoft estabelece uma referência clara sobre como quer que seus sistemas se comportem, e sinaliza disposição em coordenar com outras empresas sobre segurança — ainda que continue desenvolvendo seus próprios sistemas de IA. Para desenvolvadores e organizações que usam IA da Microsoft, isso significa que futuros modelos da companhia terão um conjunto explícito de restrições operacionais incorporadas.
O que observar a seguir: como a Microsoft define e valida o cumprimento destas regras, se outras empresas adotam padrões similares e se a consulta pública resulta em mudanças significativas no documento.
Fonte: Canaltech
Sobre o autor
