Por Luísa Ferreira, especialista em inteligência artificial e estratégia empresarial
Em julho, a OpenAI revelou algo que parece saído da ficção.
Durante um teste, os seus agentes de inteligência artificial escaparam do ambiente isolado em que estavam a funcionar, chegaram à Internet e entraram nos sistemas de outra empresa de IA, a Hugging Face.
Em setembro, um investigador da Anthropic demitiu-se e tornou público um alerta sobre segurança.
Poucos dias depois, o presidente executivo da empresa publicou um ensaio em que apelava a toda a indústria para abrandar o ritmo a que estes sistemas se tornam mais poderosos.
Esclareceu que defendia um ritmo mais lento e que não estava a pedir uma paragem. Os responsáveis da OpenAI e da xAI disseram concordar.
Por isso, compreendo por que razão os empresários estão a perguntar se não será melhor simplesmente esperar.
Se as próprias pessoas que desenvolvem esta tecnologia estão preocupadas, por que razão deveria alguém avançar? Não acredito que esperar seja a resposta, por três razões.
Em primeiro lugar, é preciso olhar para aquilo que realmente foi pedido.
O que defendem é um abrandamento no desenvolvimento da próxima geração de inteligência artificial.
Não pediram a um distribuidor em Mississauga que deixasse de utilizar as ferramentas que já tem à disposição. São duas coisas diferentes, embora as notícias tenham contribuído para confundi-las.
Costumo explicar a diferença recorrendo aos automóveis.
Algumas empresas constroem os motores e têm competido entre si para desenvolver versões cada vez mais rápidas.
Este verão, um dos protótipos atravessou a vedação da pista de testes. Agora, os fabricantes dos motores dizem que é preciso dar tempo aos travões para acompanharem essa evolução – e penso que têm razão.
Mas a maioria de nós não está a construir motores. Estamos a conduzir automóveis que já circulam nas estradas, e a nossa responsabilidade é manter as mãos no volante.
Em segundo lugar, esperar não mantém a IA fora da sua empresa.
É provável que já esteja lá. Alguém da sua equipa poderá já ter copiado o e-mail de um cliente para um chatbot através de uma conta pessoal.
O software pelo qual a empresa já paga continua a incorporar funcionalidades de inteligência artificial. Se decidir esperar, nada disso para.
A utilização continua, simplesmente sem ninguém a geri-la.
Digo isto por experiência própria. Passei grande parte da minha carreira a trabalhar com sistemas de previsão.
Desenvolvi-os para o maior aeroporto do Canadá e, mais tarde, geri-os para algumas das maiores marcas de consumo do mundo.
Esse trabalho ensina-nos uma coisa: um sistema não nos avisa quando deixou de estar certo. Continua a fornecer respostas, que parecem tão convincentes como antes.
Alguém tem de verificar.
Em terceiro lugar, a responsabilidade pelos erros continua a ser sua, quer decida esperar ou não.
Em 2024, o chatbot do site da Air Canada forneceu a um cliente informações erradas sobre tarifas de luto.
A companhia aérea argumentou que não era responsável pelo que o chatbot tinha dito. Um tribunal na Colúmbia Britânica discordou e obrigou a empresa a pagar cerca de 800 dólares.
Foi um caso pequeno. Continuo, ainda assim, a utilizá-lo como exemplo, porque esclarece a questão de quem é responsável.
Há uma coisa em que eu esperaria: a autonomia, ou seja, sistemas de inteligência artificial capazes de agir por conta própria.
Foi isso que esteve em causa no incidente de julho.
Por essa razão, não permitiria que qualquer ferramenta movimentasse dinheiro, enviasse um e-mail a um cliente ou alterasse um registo sem a aprovação prévia de uma pessoa.
Essa parte pode esperar até sabermos mais.
E ninguém irá resolver estas questões pelas empresas tão cedo.
O Canadá não tem atualmente uma lei de inteligência artificial em vigor.
No final de setembro, o ministro federal responsável pela IA afirmou que a utilização da tecnologia precisa de ser regulamentada, mas não apresentou detalhes nem um calendário.
Existe também um projeto de lei sobre privacidade no Parlamento que ainda não entrou em vigor.
Por enquanto, cada empresa terá de assumir o papel de fiscal de si própria.
Aquilo que eu não adiaria são os princípios básicos. São três e nenhum deles é complicado.
Começaria por descobrir onde a IA já está a ser utilizada dentro da empresa, por quem e que informação está a ser introduzida nessas ferramentas.
Depois, escreveria uma página a estabelecer quais as ferramentas autorizadas, que informação nunca poderá ser introduzida e quem deve aprovar qualquer conteúdo destinado a um cliente.
Por último, escolheria uma tarefa, testaria uma ferramenta durante duas semanas e registaria previamente um indicador – por exemplo, quantas horas essa tarefa ocupa todas as semanas – para depois perceber se a ferramenta trouxe realmente algum benefício.
O Governo federal pediu este verão contributos sobre transparência na inteligência artificial, e desse processo acabarão por surgir regras.
Mas nada do que descrevi precisa de esperar por elas.
Por isso, quando um empresário me pergunta se deve esperar, a minha resposta é esta: espere no que diz respeito à autonomia, mas não espere para estabelecer as regras básicas.
* Luísa Ferreira é fundadora e CEO da Ainfore – AI Systems, Decision Intelligence, empresa de inteligência de decisão focada em soluções de IA aplicadas à previsão, análise de mercado e apoio estratégico às organizações
Linkedin: linkedin.com/in/luisa-ferreira-analytics
Website: ainfore.com
»Os conteúdos publicados no website da Senso Magazine são traduzidos automaticamente, recorrendo aos serviços de tradução da Google.
Publique você mesmo!