O presidente da Microsoft avisa que a AI é menos regulada do que o leite e as máquinas de lavar

O corredor de leite da sua mercearia pode parecer um lugar improvável para começar uma conversa sobre a segurança da IA. Mas o presidente da Microsoft Brad Smith diz que oferece uma comparação útil para como a tecnologia deve ser regulada.

Falando com o podcast Big Boss Interview da BBC em 11 de outubro, Smith pediu regras globais de segurança de IA, argumentando que produtos diários como leite enfrentam mais salvaguardas do que sistemas de IA cada vez mais poderosos.

“Agora, sua máquina de lavar está sujeita a mais regras de segurança do que a AI. Cada caixa de leite que você vê na mercearia está sujeita a regras de segurança e inspeção”, disse Smith.

Suas proteções propostas vão além de pedir às empresas para prometer que sua tecnologia é segura. Smith quer requisitos legais para as empresas relatar incidentes de segurança e notificar as vítimas quando os agentes da IA desonestos violam seus sistemas. Ele também pediu “travões de emergência” que poderiam pausar ou retardar sistemas de IA, ao lado de regras que determinam quando os avaliadores independentes devem rever novas tecnologias antes de sua liberação.

“Sabemos como fazer isso para outros produtos”, disse Smith. “Devemos construir esse conhecimento e pensar em como aplicá-lo à AI.”

Os comentários de Smith ecoam avisos recentes de Bill Gates. O impulso para proteções de IA mais fortes também vem como o presidente Donald Trump favoreceu a auto-regulação da indústria. Em uma reunião da Casa Branca em setembro, as principais empresas de IA concordaram com as normas de segurança voluntárias, incluindo trabalhar com auditores independentes para avaliar se seus sistemas se comportam como previsto.

Smith recebeu esse acordo e disse que a Microsoft estava feliz em assiná-lo. Mas ele argumentou que os compromissos voluntários não seriam mais suficientes. “É um bom passo, é um passo necessário… Mas acho que já não é suficiente”, disse à BBC.

O problema, na sua opinião, é que as empresas responsáveis seguirão regras voluntárias. Menos responsáveis não podem.

Quem pode definir as regras?

Essa questão também surgiu nos relatórios de Mashable sobre as chamadas de líderes de AI para padrões de segurança mais fortes. Como Rebecca Ruiz informou em setembro, especialistas advertem que as empresas podem apoiar as salvaguardas enquanto ainda procuram o controle sobre como essas salvaguardas funcionam.

Pete Furlong, gerente sênior de política e pesquisa no Centro de Tecnologia Humana, disse à Mashable que os esforços de transparência das empresas precisam vir com expectativas além daqueles que se estabelecem.

“Não pode depender inteiramente dessas empresas para ditar os termos de sua transparência”, disse ele.

• O presidente Trump faz um ponto com a nova ordem executiva de supervisão da AI
• A OpenAI e a Casa Branca têm visões concorrentes para regular a inteligência artificial
• A inteligência artificial treinada pela Reddit alerta os pesquisadores sobre… em si mesmo

Smith sugeriu que o Reino Unido poderia ajudar a liderar o desenvolvimento de regras globais, apontando para a experiência técnica de seu AI Security Institute. O instituto já tem acesso aos principais modelos de IA antes da implantação através de acordos voluntários, permitindo-lhe avaliar suas capacidades e riscos.

Para Smith, o próximo passo é fazer com que as obrigações de segurança sejam exequíveis – incluindo exigir que as empresas digam às pessoas quando algo corre mal.

“É com as empresas que não são tão responsáveis que você precisa se preocupar”, disse ele.

Quer saber mais sobre tirar o melhor da sua tecnologia? Inscreva-se nos boletins da Mashable’s Top Stories and Deals hoje.

Tópicos
Inteligência Artificial
Microsoft

Olivia Tauber é a editora adjunta da cultura digital, cobrindo criadores, mídia, filmes, beleza e muito mais. Com sede em Nova York, seu trabalho apareceu no The New York Times, Vanity Fair, The Cut, Teen Vogue, Complex e Interview Magazine. É licenciada em Jornalismo pela NYU e licenciada pela Universidade de Michigan. Ela também dirige o Fan Mail, uma newsletter semanal de cultura pop.