COMUNICAÇÕES 248 - VIRGÍNIA DIGNUM: IA RESPONSÁVEL PRECISA DE "REGRAS DE TRÂNSITO"

a conversa
“Nem eu nem qualquer outro português que seja professor catedrático fora de Portugal pode ser integrado na academia. O António
Damásio, por exemplo, se quisesse não podia”
22
Não tenho medo que os sistemas se levantem e fiquem
conscientes. Tenho medo que pessoas e organizações
utilizem esses sistemas para fazer mal, isso sim.
É evidente que, a prazo, os computadores vão ultrapassar
as capacidades humanas. Vamos deixar de ter
uma relação de igual para igual. Isso não a perturba?
Também não tenho uma relação de igualdade com o
carro, que anda muito mais depressa do que eu. Nem
com o avião, nem mesmo com o meu telefone, ou a
calculadora, que faz raízes quadradas muito melhor
do que eu… Neste momento já nem sequer ensinam
os alunos a calcular raízes quadradas. Não é preciso. O
que é preciso é ensiná-los a perceber o que é uma raiz
quadrada e para que é necessário fazer esse cálculo e
quando. Ao utilizar a IA, a intenção final é nossa, portanto
a responsabilidade também. Se deixo o sistema
tomar decisões automaticamente, como aconteceu
na Holanda – em que as finanças pediram, por lapso,
a muitas famílias para devolverem os subsídios que
supostamente haviam recebido de modo fraudulento
durante anos. Uma imprudência que teve consequências
gravíssimas, como suicídios, divórcios e por fim a
queda do governo. Se deixo isso acontecer a culpa não
é da IA, mas das pessoas que decidiram que o sistema
poderia funcionar sem supervisão. Portanto, aí é que
temos de ter muita atenção e muito esforço, não só no
desenvolvimento técnico, mas principalmente no desenvolvimento
sociotécnico. O trabalho que estou agora
a fazer com as Nações Unidas é exatamente o de criar
os meios e a literacia para que as pessoas saibam como
é que se usam estes sistemas. Neste momento, podemos
comparar a IA com um carro que não tem travões,
nem cintos de segurança e está a ser guiado por uma
pessoa que não tem carta de condução e vai por uma
rua abaixo que não tem sinais de trânsito. Temos que
insistir com as empresas que desenvolvem estes sistemas,
que têm de pôr cintos de segurança e travões, mas
não nos podemos esquecer de que ao mesmo tempo,
temos de investigar ou garantir que quem está a fazê-lo
tem carta de condução. Também é preciso criar as regras
de trânsito.