Revista TOP100 2023 (Distribuidores)

MERCADO
Empresa
Top
100
durante o processo de formação para verificar a
qualidade do ajuste atual. O conjunto de dados de
teste é utilizado para verificar odesempenho dos
modelos treinados. Os três conjuntos de dados são
cuidadosamente construídos para se adequarem
ao seu objetivo. Só deve haver obrigações específicas
dos fabricantes para garantir que os sistemas
de IA sejam testados em conjuntos de dados
suficientemente amplos. Os dados utilizados nas
fases de formação e validação devem depender
do fabricante.
Prestação de informações
No que respeita à obrigação de informar os consumidores/utilizadores
de que estão a interagir
com uma IA, os fornecedores do sector automóvel
devem ter o dever de informar os seus clientes diretos
(fabricantes de veículos ou outros fornecedores),
mas a responsabilidade de informar o consumidor
final deve caber aos fabricantes de veículos
Robustez e exatidão
Os requisitos propostos pela Comissão no Livro
Branco são relevantes para os produtos que não
estão já sujeitos a avaliações de desempenho rigorosas.
Os produtos para automóveis já estão sujeitos a
homologação, e os requisitos devem ser verificados
no âmbito deste. A robustez necessitaria de uma
definição mais clara, com limites estritos, de modo
a não impor requisitos tecnicamente inviáveis (por
exemplo, contra ataques de adversários).
Supervisão humana
Os sistemas de IA devem permanecer sob o
princípio da supervisão humana, mas o contexto
específico da condução autónoma deve ser tido em
conta. Não é possível supervisionar cada uma das
decisões tomadas por um veículo autónomo, devido
ao facto de a maioria das decisões ser tomadas
em tempo real. O requisito de controlo humano
deve, por conseguinte, ser concebido como uma
verificação antes do facto, da lógica da tomada de
decisões para veículos autónomos.
Uma possibilidade de controlo humano mencionada
no livro branco é a imposição de restrições
operacionais ao sistema, por exemplo, impondo
regras sobre o comportamento de um veículo totalmente
autónomo na fase de projeto. As orientações
relativas ao procedimento de isenção para
a homologação de veículos automatizados na UE,
elaboradas pela Comissão e pelos Estados-Membros
em 2019, estabelecem cinco regras principais
para o comportamento de um veículo autónomo:
“o veículo deve ser capaz de manter uma distância
segura em relação aos outros veículos da frente;
demonstrar cautela em zonas obstruídas, deixar
tempo e espaço para os outros em manobras laterais,
ser cauteloso com a direita de passagem, e
se um acidente puder ser evitado com segurança
sem causar outro, deve ser evitado”.
Sistemas de identificação biométrica
Falta alguma clarificação sobre o que seria considerada
identificação biométrica (por exemplo,
reconhecimento facial). Algumas aplicações automóveis
relacionadas com a segurança, como a
monitorização da consciência/sonolência do condutor
ou sensores externos, podem fazer a leitura
de rostos humanos, mas não devem ser consideradas
como reconhecimento facial, uma vez que
não colocam riscos para os direitos fundamentais.
Essas aplicações podem incluir também a deteção
de peões e das suas intenções, mas é necessário
tornar anónimas a informação para garantir a sua
privacidade.
Ao racionalizar ou automatizar determinados processos e auxiliar
a tomada de decisões humanas nas operações quotidianas, a IA pode
proporcionar enormes benefícios às operações da cadeia logística
224
Top100 Aftermarket 2023