edição de 15 de janeiro de 2018

mercado
Com dados mal escolhidos, robôs
podem ter aprendizado tendencioso
Para garantir diversidade, é preciso ter profissionais variados que fazem
o treinamento das máquinas e a curadoria daquilo que elas aprendem
Cristiane Marsola
inteligência artificial já está
A inserida na realidade diária
dos seres humanos. Seja ao
fazer uma busca que se autocompleta
no Google ou na hora
de receber sugestões de filmes
e séries para assistir na Netflix,
em alguns momentos o uso dessa
tecnologia nem chega a ser
percebido por um consumidor
leigo. O tema, impulsionado
pelas soluções de Internet das
Coisas, foi um dos mais comentados
durante a feira CES (Consumer
Electronics Show) 2018,
realizada em Las Vegas (leia
mais nas páginas 10 e 11).
Um dos braços da inteligência
artificial que já está chamando
a atenção na área da comunicação
é a machine learning. “É
um braço da inteligência artificial
em que, essencialmente, há
construção de algoritmos para
automatização de processos.
É um aprendizado supervisionado,
depende da intervenção
humana. O Watson, ou qualquer
outra plataforma, é um bebê que
acabou de nascer e você precisa
ensinar tudo. Cada projeto ensina
o Watson do zero, principalmente
porque cada empresa
quer dar uma personalidade
para ele”, conta Diego Figueredo,
CEO da Nexo, consultoria de
tecnologia e inovação com foco
no desenvolvimento de soluções
com inteligência artificial.
A própria empresa, que antes
se chamava i9 cloud, teve nome
e logo novos, construídos com
Watson, a ferramenta de inteligência
artificial da IBM, usada
em 80% dos projetos da Nexo.
No entanto, é preciso tomar
cuidado para não acreditar que,
por se tratar de máquinas, a imparcialidade
seja inata às ferramentas
e as decisões dos robôs
não passem por questões morais.
“Existe um viés porque a
plataforma aprendeu com o uso
das pessoas ou porque alguém
a programou. A máquina vai
aprender de maneira totalmente
diferente, nos Estados Unidos
ou no Oriente Médio, por exemplo.
A questão é quem está definindo
os algoritmos? Quando se
desenvolve a plataforma, pessoas
passam a treiná-la”, explica
Cleber Paradela, VP de estratégia
da Sunset, que se dedica a
estudar o tema.
“Hoje a maioria dos algoritmos
de machine learning pegam
dados, processam e geram
estatísticas do que pode ser
uma resposta aceitável para a
questão proposta. Se a gente
alimentar um algoritmo com o
que as pessoas falam na internet,
por exemplo, a princípio,
ele vai refletir o que está lendo.
Se alimentar com discursos
não filtrados, vai ter muito discurso
de ódio e esse padrão vai
ser relevante. Corre o risco de,
na automação, ele simular uma
conversa real que tem um viés
moral por trás”, avalia Domenico
Massareto, CCO da Publicis.
Outro ponto a ser levado em
consideração quando se fala em
machine learning é que a realidade
das empresas de tecnologia
não reflete a diversidade da
população mundial e, por conta
disso, as respostas automáticas
podem refletir uma moral e uma
ideologia que agridam a minorias.
O Google, por exemplo,
tem um compromisso assumido
de fomentar a diversidade e a inclusão,
mas ainda está longe da
“Ainda não
tem sistema de
interpretação
de linguagem
avançado o
suficiente para
saber que naquele
texto o produto
era o vilão da
história”
Menno van Dijk/iStock
6 15 de janeiro de 2018 - jornal propmark