Mal uso, não a autonomia, é o risco imediato
Em entrevista ao programa Meet the Press da NBC, exibida no domingo, 27, Bill Gates afirmou que o problema mais urgente da inteligência artificial é a ação de pessoas com más intenções. Ele descreveu cenários como fraudes, interrupção de redes elétricas, manipulação de contas bancárias e até o desenvolvimento de armas biológicas com ajuda de IA.
Para o cofundador da Microsoft, a tecnologia já pode ser considerada uma “espécie inteligente” que, em muitos aspectos, supera os humanos. No entanto, ele argumenta que a IA ainda não controla milhões de robôs ou outros dispositivos físicos, o que significa que, se ela se tornar perigosa, os sistemas podem ser desligados.
Monitoramento e salvaguardas como solução
Gates defende que, em vez de um botão de emergência ou da interrupção do progresso, a melhor proteção é a implementação de mecanismos de monitoramento e salvaguardas diretamente nos modelos de IA. Ele alerta que, sem essas medidas, a polícia e as autoridades podem ser incapazes de identificar atividades fraudulentas ou ataques cibernéticos.
«O mesmo monitoramento que colocamos para evitar que pessoas más usem a IA é exatamente o que você quer para ver se a própria IA está fazendo isso», disse ele.
Ele também destacou o perigo de aplicações biológicas, onde a linha entre criar um novo medicamento e desenvolver uma ferramenta de bioterrorismo é muito tênue. «Precisamos monitorar qualquer modelo sofisticado e registrar tudo», afirmou.
Para Gates, a autorregulação não é suficiente. Ele pede que o Congresso aprove leis que exijam esses mecanismos, argumentando que o custo adicional para a indústria seria modesto e não impediria o avanço da tecnologia.
Visão contrasta com a de Trump
A posição de Gates contrasta com a do ex-presidente Donald Trump, que neste mês rejeitou qualquer regulação federal sobre empresas de IA. O cofundador da Microsoft observa que, ao contrário de foguetes e armas nucleares, a IA foi desenvolvida quase totalmente pela iniciativa privada, e os governos ainda têm dificuldade para compreendê-la.
Ele alerta que tratar o tema como uma corrida entre nações leva alguns a defender «ir a toda velocidade». «É completamente irresponsável não exigir que toda IA tenha salvaguardas e capacidade de monitoramento», afirmou.
Perguntas frequentes
- Qual é o maior risco da IA segundo Bill Gates? Ele afirma que o perigo mais urgente é o uso malicioso da tecnologia por pessoas com más intenções, incluindo fraudes, ataques a redes elétricas, manipulação de contas bancárias e desenvolvimento de armas biológicas.
- Gates acha que a IA pode sair do controle? Ele considera possível que sistemas futuros se tornem mais poderosos e ajam contra os interesses humanos, mas não acredita que as IAs estejam atualmente fora de controle.
- A IA pode acabar com a humanidade? Gates não descarta esse cenário. Ele diz que a IA é poderosa o suficiente para causar eventos que poderiam resultar em um bilhão de mortes.
- Por que o risco imediato não é a IA agir sozinha? Como os sistemas atuais não controlam robôs ou outros dispositivos físicos, ainda seria possível desligar os computadores responsáveis por sua operação se ela se tornasse perigosa.
- Que tipo de ataque Gates teme que pessoas possam realizar com IA? Ele citou fraudes, interrupção de sistemas elétricos, manipulação de contas bancárias e o uso de modelos avançados para criar ferramentas de bioterrorismo.
- O que Gates defende para controlar os riscos da IA? Ele pede salvaguardas, monitoramento contínuo e registro de atividades, além de legislação que obrigue as empresas a implementar esses mecanismos.
- Gates é a favor de desacelerar o desenvolvimento da IA? Ele apoiaria um plano global para frear o avanço da tecnologia, mas duvida que isso aconteça devido aos incentivos econômicos e geopolíticos.
- Por que o uso de IA em armas biológicas é especialmente preocupante? Porque é difícil distinguir aplicações legítimas, como a criação de novos medicamentos, de usos maliciosos para bioterrorismo, reforçando a necessidade de monitoramento.
