L’humain avant la machine

Ça c’est syndicom!
syndicom est la force syndicale déterminante dans la branche TIC.
Notre syndicat défend aussi une économie soucieuse des besoins
des travailleuses et travailleurs. Il négocie des conventions collectives
de travail, travaille étroitement avec les représentations du personnel
et influe sur la législation pour obtenir de meilleures conditions de
travail et une meilleure protection de ses membres.
Par ton affiliation, tu bénéficies en outre des prestations suivantes:
– Protection juridique professionnelle: informations et conseils
gratuits sur toutes les questions liées aux conditions et rapports
de travail, aux assurances sociales, au droit contractuel, au droit
de participation et à l’égalité.
– Formation continue et perfectionnement: participation gratuite
à des cours «Movendo» dans le domaine de la formation continue
syndicale et professionnelle. Soutien financier à la formation
continue et au perfectionnement.
– Conditions préférentielles et rabais attrayants pour les
membres de syndicom.
syndicom – le syndicat de ta branche:
inscris-toi dès aujourd’hui!
www.syndicom.ch
L’humain
avant la machine
Principes directeurs pour
une intelligence artificielle
avec responsabilité sociale

L’humain avant
la machine
Principes directeurs pour
une intelligence artificielle
avec responsabilité sociale
Importance économique, défi social,
responsabilité humaine

« Dans la vie, rien n’est à craindre,
tout est à comprendre. »
Maria Salomea Sk odowska Curie (Marie Curie)
Physicienne, chimiste, prix Nobel
1867–1934

Table des matières
6
12
22
38
68
70
PRÉFACE
DÉFIS
Opportunités et risques de l’intelligence artificielle
RÉSOLUTION
Les neuf principes directeurs concernant l’intelligence artificielle
LEXIQUE IA
De A à Z
CONCLUSION ET PERSPECTIVE
BIBLIOGRAPHIE

6 7
PRÉFACE
Humain ou machine ?
La Suisse connaît une mutation numérique.
Elle est en pleine transformation
: le syndicat syndicom et ses
membres sont eux aussi concernés.
L’avenir numérique de l’économie et de la société est un sujet
central du syndicat syndicom :
– Au secteur TIC, un manifeste « Pour une Suisse numérique avec
responsabilité sociale » a été adopté fin 2016.
– A son assemblée des délégué-e-s de 2016, syndicom a adopté
treize thèses sur la numérisation, qui ont donné lieu à la
brochure « Comment nous définissons le travail 4.0 » et
finalement au papier du congrès 2017.
– En 2017 également, syndicom a pu présenter les résultats de
l’étude nationale sur le crowdworking en Suisse.
– Cette brochure constitue désormais le prochain document de
base sur l’avenir numérique, axé sur l’intelligence artificielle
(IA). Le 1er novembre 2019, lors d’une conférence nationale
sur l’intelligence artificielle et l’éthique, les membres de
syndicom du secteur TIC ont adopté une nouvelle résolution,
dont les principes directeurs sont au cœur de la présente
brochure.
Pourquoi l’IA ? Nous en savons encore relativement peu sur
l’intelligence artificielle (IA), mais elle gagne en importance
dans notre vie quotidienne et dans le monde professionnel.
L’IA est le moteur essentiel de la numérisation omniprésente.
Et elle conduira tôt ou tard à de profonds changements dans
l’économie et la société, y compris dans la branche TIC en
Suisse. Le potentiel est déjà considérable aujourd’hui :
– Des entreprises telles que Swisscom ainsi que des sociétés
informatiques peuvent développer des applications d’IA et
les rendre accessibles aux PME dans le cloud quand celles-ci
manquent de ressources pour en développer elles-mêmes.
– Pour les entreprises de la branche Infrastructure de réseau,
la réalité augmentée et les composants d’autodiagnostic et
d’autoréparation modifient fondamentalement la façon
dont les réseaux sont installés et entretenus.
– Dans les centres de contact et d’appels, des chatbots sont
utilisés pour répondre aux questions de plus en plus complexes
des clients.
Dans ce contexte, des questions inédites se posent à la population
suisse :
– Quelles sont les conséquences de l’évolution technologique
pour la politique, la législation et la société ?
– Que signifie l’évolution technologique pour le service public
en particulier ?
– Comment défendre des principes éthiques alors qu’un nombre
grandissant de décisions sont prises par des algorithmes ?
– Comment nous défendre contre des tentatives visant à
opprimer des groupes de population à l’aide d’analyses et
d’algorithmes basés sur des données ?

8 9
– Comment garantir que les employé-e-s d’aujourd’hui puissent
se servir de la technologie de demain ?
– Comment organiser le travail dans un monde numérique, afin
qu’il ait un sens et permette de vivre correctement ?
– Ou de manière générale : comment s’assurer que la machine
serve les individus – et non l’inverse ?
Ce sont là des questions que la politique suisse doit également
aborder et qui sont particulièrement importantes pour le
partenariat social. Le secteur TIC chez syndicom a un rôle
pionnier à jouer à cet égard. Lors des dernières négociations
CCT, nous sommes parvenus à développer des conditions-cadres
importantes dans le contexte de la numérisation comme un
droit à la non-joignabilité dans la dynamique de décloisonnement
des espaces et temps de travail, le droit à la formation continue
et au perfectionnement, la protection étendue de la sphère
privée des employé-e-s au travail, et un code de conduite pour
une plateforme de crowdwork.
Mais ce n’est que le début. Il reste à aborder de nombreuses
nouvelles questions éthiques avec nos partenaires sociaux, par
exemple lors des prochaines négociations sur les conventions
collectives de travail. Ce sont des questions auxquelles le
syndicat syndicom et ses membres sont bien préparés, également
grâce à cette brochure.
Giorgio Pardini,
Responsable du secteur TIC au syndicat syndicom

L’intelligence artificielle …
… décrit des applications informatiques, dont
le but est de montrer un comportement intelligent
et humain. Pour y parvenir, certaines compétences
de base sont requises dans des proportions
différentes : percevoir, comprendre, agir et
apprendre. Ces quatre compétences de base
représentent la plus grande simplification
possible d’un modèle d’IA moderne : percevoir –
comprendre – agir étendent le principe de base
de tous les systèmes informatiques : entrée –
traitement – sortie. Ce qui est vraiment nouveau,
c’est l’apprentissage et la compréhension. Les
« véritables » systèmes d’IA ont aujourd’hui en
commun qu’ils sont également entraînés à la
composante de traitement et qu’ils peuvent donc
apprendre et obtenir de meilleurs résultats que
des processus classiques basés sur des règles
rigides, clairement définies et bien programmées.

12 13
Opportunités et risiques
L’avenir de l’intelligence
artificielle
Quel enjeu pour les personnes
qui travaillent
L’avenir est humain
L’utilisation de l’IA comporte de
nombreuses opportunités, comme les
exemples suivants le montrent.
Un débat public informatif et éclairé s’impose sur les opportunités
et les risques de l’intelligence artificielle (IA). La question
se pose également de savoir comment la société peut surmonter
au mieux un déclin de l’emploi dans certains groupes professionnels
par la création simultanée de profils professionnels
totalement nouveaux.
Écologie : la crise climatique ne se laisse pas surmonter sans
l’IA. Les technologies numériques peuvent contribuer de
manière significative à faire progresser la protection de l’environnement,
des ressources et du climat, et à préserver la
biodiversité en rendant l’air, le sol et l’eau plus propres. Dans
les « villes intelligentes », par exemple, où l’IA lie des données,
elle assume le rôle d’offrir à la population une qualité de vie
élevée tout en minimisant simultanément la consommation
des ressources. En même temps, les multiples opportunités
offertes par les innovations basées sur l’IA impliquent une
responsabilité pour garder à l’esprit de potentiels risques tels
que la consommation croissante d’énergie, les effets de rebond
(si le potentiel d’économie des gains d’efficacité ne peut
être réalisé ou ne le peut être que partiellement) ou la sécurité
des ressources.
Santé : l’IA soutient les médecins et les radiologues dans
le diagnostic du cancer et des maladies rares. Une comparaison
entre l’humain et la machine montre que l’algorithme établit
le bon diagnostic dans 90% des cas, alors que les radiologues
ne font le bon diagnostic que dans la moitié des cas. Grâce à
l’IA, les personnes aveugles peuvent à nouveau reconnaître les
émotions de leurs semblables et percevoir ce qui se passe dans

14 15
leur environnement. Les personnes sourdes et muettes ont
la possibilité d’élargir considérablement leur champ d’action –
l’intégration de services de traduction avec un avatar en langue
des signes rend cette opération possible. Les scientifiques
développent le cockpit chirurgical, un système d’assistance
complet qui surveille tous les processus de travail en salle
d’opération et assiste les chirurgiennes et chirurgiens – de
l’analyse des informations aux décisions thérapeutiques, en
passant par la mise en œuvre de la thérapie.
Sécurité IT : les départements informatiques des entreprises
comptent parmi les utilisateurs les plus importants de l’IA dans
le monde. Ils utilisent l’intelligence artificielle pour surveiller
la sécurité des systèmes informatiques, détecter et prévenir des
attaques potentielles de pirates informatiques. Des solutions
d’IA analysent des schémas de comportement, automatiquement
et à toute heure du jour et de la nuit, pour en tirer des enseignements.
Si des processus suspects et des menaces éventuelles
sont découverts, les administratrices et administrateurs
informatiques reçoivent des notifications d’alarme et peuvent
alors prendre des contre-mesures. Les fournisseurs de sécurité
avancée utilisent le deep learning pour parer aux logiciels
malveillants et aux cyberattaques jusqu’alors inconnus. Ils
soutiennent des organismes publics, des entreprises dans le
secteur de la santé et des prestataires de services financiers
qui posent des exigences particulièrement élevées en matière
de sécurité de leurs systèmes informatiques. L’humain se
concentre sur la gestion de la qualité des données et le traitement
des fausses alarmes.
Recrutement : les chatbots facilitent le recrutement de personnel.
Ils sont utilisés pour répondre aux questions de potentiels
candidat-e-s au sujet de postes annoncés. Les avantages de
ces solutions sont évidents : les responsables RH peuvent se
concentrer sur les candidat-e-s les plus intéressés.
Marché du travail : dans les secteurs où la main-d’œuvre se
fait très rare, la croissance par la robotique devient possible.
Dans de nombreux domaines de la vie, tels que les soins aux
personnes âgées et les services de santé, il manque de la
main-d’œuvre pour couvrir la demande croissante. Ici, les robots
doivent répondre aux besoins en soins par la prise en charge
de tâches routinières. Le vieillissement de la société accroîtra la
demande de robotique dans les années à venir.

16 17
Le contrôle se perd
L’utilisation de l’IA comporte
aussi des risques, comme les cinq
exemples suivants le montrent.
Démocratie : tout ce qui peut être effectué au moyen de
routines de décision clairement définies sera tôt ou tard
exécutable à l’aide de grands pools de données et d’algorithmes.
Mais a-t-on encore affaire à des décisions ? Ou plutôt à des
routines intelligentes ? Cette question, loin d’être uniquement
conceptuelle, est importante au vu de notre manière d’envisager
les décisions humaines et en termes de valeur que nous accordons
aux individus comme décideurs et souverains. Le plus
grand défi dans une société démocratique tient au fait que les
processus et les routines de prise de décision sociaux – y c.
l’information et la communication préparées, accompagnées ou
commentées – se réajustent avec l’utilisation généralisée du
big data et de l’IA.
Fake news : dernièrement, le thème des fake news a fait l’objet
de discussions intenses, y compris au niveau des nouvelles lois
contre leur diffusion. En particulier après les élections présidentielles
américaines en 2016, l’inquiétude a grandi de voir les
médias sociaux propager des nouvelles mensongères et influencer
ainsi les processus démocratiques tels que les élections ou les
référendums. Un article sur la société Cambridge Analytica, qui
a voulu exercé une forte influence en faveur de Trump via des
analyses granulaires de groupes cibles sur Facebook, a d’abord
donné lieu à beaucoup d’agitation, puis s’est ensuite avéré
clairement exagéré.
Censure et contrôle : le progrès technologique a eu un effet
clairement négatif sur la liberté d’information et d’opinion en ce
sens que les mesures élargies de censure et de surveillance
incluent des données biométriques (par exemple, les systèmes
de reconnaissance faciale). La possibilité de pénétrer dans de
nombreux systèmes par des portes dérobées et des exploits est
utilisée non seulement par les services secrets, mais aussi par
des institutions répressives et de censure dans les pays autoritaires
et, finalement, par des personnes criminelles.
Marché du travail : le big data et l’IA auront pour conséquence
que de nombreuses activités ne seront plus demandées sur
le marché du travail. C’est certain. Quant à savoir lesquelles et
dans quelle proportion, à quelle vitesse et à quel endroit,
les pronostics sont très différents. Il n’est donc pas possible
d’établir un masterplan détaillé de l’IA pour le marché du
travail. Toutefois, certaines tendances sont prévisibles : les
groupes professionnels dans lesquels de nombreux employé-e-s
se croyaient en sécurité en tant que travailleuses et travailleurs
du savoir du savoir sont aussi touchés. Ces groupes professionnels
– du traitement de dossiers à l’audit – sont actuellement en
point de mire. L’IA est particulièrement efficace lorsqu’il s’agit
d’effectuer des tâches routinières, d’apprendre progressivement
de celles-ci et d’entraîner des activités plus complexes. Les
emplois comportant de telles tâches sont menacés, en particulier
dans le secteur des bas salaires, où des activités répétitives
sont souvent exécutées. Cependant, même les emplois de
bureau ne sont pas épargnés si des tâches peuvent être accom-

18 19
plies par l’IA plus rapidement et à moindre coût. Les emplois
déjà externalisés à l’étranger pour des raisons de prix sont
avant tout menacés. Il s’agit surtout de milliers de postes de
compliance dans les grandes banques, parce qu’elles recourront
de plus en plus à l’IA pour maîtriser les changements dans
l’environnement réglementaire.
Responsabilité : l’IA peut représenter une tentative de vivre
la réticence de l’être humain à assumer ses responsabilités par
un transfert de responsabilité à l’IA.
Bilan : Il faut des
règles contraignantes
syndicom reconnaît le potentiel de l’intelligence artificielle (IA)
pour le progrès social à condition que l’IA soit utilisée en faveur
des individus. syndicom participe activement au discours social,
afin que le bien-être des individus occupe la première place
lorsque des systèmes IA sont conçus, développés, introduits et
utilisés.
L’interaction entre les humains et le système d’IA offre une
opportunité de repenser et de redéfinir la relation des domaines
de vie entre eux, notamment en ce qui concerne une réduction
significative du temps de travail sans perte de revenu. La
technologie n’est jamais neutre, mais elle est produite dans un
contexte économique, social, culturel et politique. Afin d’exploiter
les possibilités de l’IA tout en minimisant les risques qui
y sont associés, syndicom compte réglementer le développement
et l’application de l’IA d’une manière contraignante. Les
principes directeurs suivants de la résolution AI constituent un
début.

22 23
Résolution
1. Autonomie et contrôle
Neuf principes directeurs
de l’IA pour un avenir humain
Comment exploiter les opportunités
et écarter les risques.
Résolution
Les systèmes d’intelligence artificielle servent l’individu et
son autonomie, mais aussi la société et la planète, à condition
que l’humain reste maître de la machine à tout moment.
Les systèmes d’IA n’ont donc pas une personnalité juridique
propre – les individus continuent d’assumer la responsabilité.
La dignité humaine est respectée.
Développement
La relation homme-machine se transforme : un changement de
paradigme qui évolue vers un modèle de partenariat prend
place. Le but des systèmes intelligents est de nous décharger.
Ils peuvent assumer cette fonction parce qu’ils sont capables
d’appréhender leur environnement, disposent d’une mémoire et
agissent de manière autonome. L’individu ne domine plus le
système, mais interagit avec lui. Afin d’éviter des effets paternalistes
par le biais de décisions automatisées, qui limitent la
liberté d’action de l’être humain, un contrôle permanent du
système et des possibilités d’intervention dans le système sont
nécessaires. Pour les utilisateurs, il s’agit de comprendre
comment des systèmes intelligents sont développés et entraînés.
Des processus décisionnels particulièrement responsables – par
exemple en matière de contrôle autonome des véhicules ou de
diagnostic médical – devraient être conçus de telle sorte que la
compétence décisionnelle finale incombe aux acteurs responsables,
et ce jusqu’à ce que la qualité de l’IA atteigne un niveau
accepté par tous les participants. Dans les processus d’approbation
pour des véhicules autonomes, par exemple, l’autonomie
n’est étendue que par petites étapes.

24 25
2. Droits humains et droits fondamentaux
Résolution
Les systèmes d’IA font l’objet d’une procédure de vérification
(procédure diligente) appropriée. La liberté et les droits
humains ainsi que les principes de l’État de droit et démocratiques
sont protégés, respectés et accompagnés de mécanismes
correctifs. Les systèmes d’IA sont conformes aux
règles définies par l’être humain et la loi. Les distorsions et
les préjugés ainsi que la discrimination sont minimisés dans
les systèmes d’IA et dans leurs résultats. L’égalité, la
non-discrimination et la solidarité sont le fil conducteur de
l’action. Dans le développement des systèmes d’IA, la
diversité du personnel dans le développement est respectée
et promue.
Développement
Nous croyons en une approche de l’éthique IA fondée sur les
droits fondamentaux prévus par la législation internationale
relative aux droits de l’homme. Le respect des droits fondamentaux
dans le cadre de la démocratie et de l’État de droit constitue
la base la plus favorable pour définir des valeurs et des
principes éthiques et abstraits, qui peuvent être concrétisés
dans le contexte de l’IA.
différents groupes de population). Cela exige également un
respect adéquat des personnes et des groupes potentiellement
fragilisés, par exemple les employés, les femmes, les personnes
souffrant d’un handicap, les minorités ethniques, les enfants,
les consommateurs ou d’autres groupes exposés à l’exclusion.
C’est pourquoi la diversité des développeurs est si importante.
Les processus politiques, c’est-à-dire le type de communication
avant, pendant et après des décisions collectivement contraignantes,
constituent un moyen particulier de créer une légitimité.
La possibilité de s’informer et le droit d’exprimer son propre
opinion jouent un rôle important dans notre compréhension
des processus démocratiques. Cette question est abordée par la
numérisation et, plus récemment, par l’entrée de l’IA dans les
applications de masse. Les assistants numériques influencent les
informations que nous recevons et nous aident à formuler nos
propres opinions et pensées. Les algorithmes jouent également
un rôle dans la diffusion des nouvelles et peuvent avoir une
incidence sur le choix de sujets dans le discours public.
Il faut accorder à toutes les personnes le même respect de leur
valeur morale et de leur dignité. Cette exigence va au-delà
de la non-discrimination, qui tolère des distinctions entre des
situations dissemblables sur la base de justifications objectives.
Dans un contexte lié à l’IA, l’égalité signifie que le système
ne doit pas fournir des résultats injustement biaisés (par
exemple, les données utilisées pour ajuster les systèmes d’IA
doivent être aussi inclusives que possible et représenter

26 27
3. Responsabilité éthique et sociale
4. Transparence et interopérabilité
Résolution
La responsabilité éthique et sociale est assumée dans la
conception, le développement, l’introduction et l’utilisation
des systèmes d’IA. Les systèmes d’IA sont gérés de manière
fiable. Le principe «Ethics by design» s’applique.
Développement
Les concepteurs d’IA ont la responsabilité éthique de concevoir
des systèmes d’IA qui ont un impact positif sur la société,
respectent les exigences légales et répondent à nos normes
éthiques les plus élevées.
Qui est rendu responsable des conséquences lorsque des
décisions sont déléguées aux machines ? Cette question amène
les experts à condamner des systèmes complètement autonomes.
Faute de quoi, on se soustrairait à notre responsabilité
éthique en matière de conception de systèmes.
L’être humain reste responsable. C’est déjà le cas aujourd’hui,
par exemple lorsque nous conduisons une voiture – rien ne
changera au niveau de la responsabilité. Il est nécessaire que
nous exercions notre pouvoir sur les machines. Et tout porte à
croire que nous serons encore en mesure de le faire dans un
avenir proche.
Résolution
Les systèmes d’IA sont transparents, compréhensibles,
explicables et reconnaissables comme tels. Leurs résultats
sont reproductibles, traçables et fiables. Les données traitées
et les formats qui en résultent sont capables de dialoguer
(interopérables). Si les décisions des systèmes d’IA
concernent des personnes, celles-ci ont le droit de contester
ces décisions et de les faire examiner par un être humain
(«human review»).
Développement
Afin de gagner la confiance dans des systèmes intelligents dans
la pratique quotidienne, il faut disposer d’informations suffisantes
sur leur fonctionnalité et leurs conséquences possibles.
Les mécanismes du système doivent être transparents afin
d’en tirer des conséquences pour ses propres actions et déterminer
si et dans quelle mesure on peut leur faire confiance. Les
éléments clés d’une chaîne de processus orientée vers l’éthique
sont donc : l’information la transparence le constat
l’autodétermination la confiance. Plus le risque est élevé,
plus il est important de pouvoir faire confiance.

28 29
5. Documentation et responsabilité
Résolution
Les systèmes d’IA contiennent une «boîte noire éthique»
qui enregistre les données traitées par le système.
Les employeurs qui utilisent des systèmes d’IA sont tenus
d’analyser et d’évaluer les systèmes et d’en rendre compte.
En outre, les autorités et le monde scientifique ont un
accès légal aux algorithmes et aux données utilisés par des
systèmes d’IA.
Développement
Des dispositions doivent être prises pour assurer la responsabilité
et l’obligation de rendre compte sur les systèmes d’IA et leurs
résultats avant et après leur mise en œuvre.
La vérifiabilité signifie que les algorithmes, les données et le
processus de conception peuvent être soumis à une évaluation.
Cela ne signifie pas pour autant que l’information sur les
modèles commerciaux et la propriété intellectuelle liés au
système d’IA doit toujours être accessible au public. L’évaluation
des systèmes d’IA par des contrôles internes et externes et la
mise à disposition de ces rapports d’évaluation peuvent contribuer
de manière significative à la fiabilité de la technologie. La
vérifiabilité externe devrait être assurée, en particulier pour les
applications qui ont une incidence sur les droits fondamentaux,
ainsi que pour les applications critiques pour la sécurité.
Il devrait être possible de rendre compte des actions ou des
décisions qui contribuent à l’obtention d’un certain résultat du
système et de réagir aux conséquences de ce résultat. Les
personnes concernées attachent de l’importance à ce que les
impacts négatifs potentiels des systèmes d’IA puissent être
identifiés, évalués, notifiés et minimisés. Une protection
adéquate doit être assurée aux lanceurs d’alerte, aux organisations
non gouvernementales, aux syndicats et aux autres
organismes qui expriment des préoccupations légitimes concernant
un système fondé sur l’IA. Afin de minimiser les impacts
négatifs, il peut être utile d’avoir recours à des analyses
d’impact (par exemple, le « red teaming » ou des formes d’évaluation
algorithmique de l’impact) avant et pendant le développement,
la mise en œuvre et l’utilisation des systèmes d’IA.
Ces évaluations doivent être dans un rapport proportionnel au
risque que posent les systèmes d’IA.

30 31
7. Partenariat social et codécision
6. Robustesse, sécurité et protection
des employé-e-s
Résolution
Il existe une politique responsable en matière de données
qui établit des règles efficaces pour la sécurité des données,
la protection des données, la vie privée et l’autodétermination
informationnelle. De plus, chaque système AI dispose d’un
«interrupteur d’arrêt d’urgence». Le principe de la prévention
du dommage figure au premier plan.
Développement
Les systèmes d’IA doivent assurer la protection de la sphère
privée et des données à toutes les étapes du cycle de vie d’un
système. A savoir aussi pour les informations fournies initialement
par les utilisateurs et pour celles générées à leur sujet
au cours de l’interaction avec le système (p. ex. résultats
générés par le système d’IA pour des utilisateurs spécifiques
ou réaction des utilisateurs à des recommandations spécifiques).
A partir des enregistrements numériques du comportement
humain, les systèmes d’IA peuvent déduire non seulement les
préférences personnelles des individus, mais aussi l’orientation
sexuelle, l’âge et le sexe, et les points de vue religieux ou
politiques. Pour que les personnes aient confiance dans le
traitement des données, il faut veiller à ce que les données
collectées à leur sujet ne soient pas utilisées pour les discriminer
de manière illégale ou injuste.
Résolution
Les syndicats ont des droits de participation importants
au niveau politique et auprès des employeurs. Afin d’assurer
la codécision de tous les employé-e-s en ce qui concerne
les systèmes d’IA et le traitement des données, des représentations
du personnel sont formées et dotées de droits
effectifs de codécision. Avant d’élaborer ou d’introduire des
systèmes d’IA, les employeurs remettent suffisamment tôt
aux employé-e-s et à leurs syndicats des rapports sur l’impact
des systèmes d’IA sur le personnel, ainsi que des rapports
réguliers sur le bien-être des employé-e-s. En cas d’abus de
droit, les employé-e-s peuvent refuser d’utiliser des systèmes
d’IA ou de participer à leur élaboration sans craindre
des conséquences négatives. Dans de tels cas, une protection
absolue contre le licenciement s’applique, en particulier si
les employé-e-s ont exploité les points de contact internes et
agissent en tant que dénonciateurs.
Développement
Les syndicats disposent de droits de participation très étendus au
niveau politique et auprès des employeurs. Il s’agit de renforcer
ces droits pour qu’ils perdurent à l’ère de l’IA. L’IA modifie
considérablement les rapports de travail. Elle doit donc devenir
un enjeu important du partenariat social, par exemple dans
l’élaboration des conventions collectives de travail. En particulier
là où l’IA est en cours de développement, les représentants
du personnel ont également un rôle important à jouer, afin que
les employés aient un droit de codécision sur les questions
éthiques relatives aux systèmes d’IA à développer. Dans le même
temps, des droits collectifs et des garanties doivent être accordés
aux travailleurs indépendants et aux crowdworkers.

32 33
8. Transformation numérique
équitable et durable
Résolution
La transformation sociale et économique induite par
la numérisation en cours est mise en œuvre équitablement.
De plus, elle améliore la situation du plus grand nombre
possible de personnes grâce à la redistribution et contribue
à l’égalité entre les femmes et les hommes. Les gains de
productivité sont réinvestis durablement en faveur de
la population. Les individus doivent être habilités à utiliser
des systèmes d’IA. Dans le même temps, un droit à un
apprentissage tout au long de la vie est ancré, qui permet
une reconversion et un perfectionnement complets et
effectués à temps.
Développement
Les craintes d’importantes pertes d’emplois ne se sont avérées
fondées à long terme dans aucune des trois révolutions industrielles
précédentes. De nouveaux emplois n’ont cessé d’être
créés en nombre suffisant pour compenser les emplois obsolètes
causés par l’automatisation. Mais l’histoire montre aussi que
toute société qui traverse une révolution industrielle est
confrontée à d’autres questions existentielles qui ne portent
pas seulement sur le nombre d’emplois en soi, mais sur les
conséquences des processus d’ajustement et – surtout – sur la
répartition des richesses.
– La première révolution industrielle a transformé les paysans
et agriculteurs en ouvriers d’usine.
– La deuxième révolution industrielle a consisté à tirer le
maximum du travail de l’automatisation (chaînes de production),
tout en créant une production de masse pour la consommation
de masse. Cela supposait un pouvoir d’achat de masse
(augmentation des salaires).
– La troisième révolution industrielle a combiné le travail avec
des machines à commande microélectronique. D’une part, il
s’agissait de maximiser la productivité du travail. D’autre part,
le procédé a commencé à évincer le travail du processus de
production. Parfois, les travailleurs de l’industrie s’étonnent
du terme « transformation numérique », car ils connaissent
depuis trente ans des robots de production à commande
numérique, la production « allégée » et les licenciements
collectifs. Cela correspond au vieux rêve des propriétaires
du capital d’obtenir la croissance et le profit sans travail.
Une illusion, car seul le travail crée de la valeur.
– A l’ère de la quatrième révolution industrielle, le système
économique a changé de visage. Il a pour objectif de fonctionner
avec le moins de salariés possible et de se soustraire aux
rapports contractuels garantis par contrat. Ce n’est pas une
innovation technologique, c’est une rupture historique et
sociale. Les raisons n’en sont pas à chercher dans l’automatisation
numérique, mais dans le système économique.
C’est pourquoi les syndicats sont particulièrement sollicités
aujourd’hui.

34 35
9. Réglementation et coopération globales
Résolution
Des mécanismes de réglementation mondiaux sont établis.
Les armes basées sur des systèmes d’IA sont interdites.
Développement
Le big data et l’IA peuvent aussi être conçus pour nuire
aux individus. Les données, l’IA et les systèmes intelligents
deviennent ainsi des outils ingénieux entre les mains d’une
multitude d’acteurs, dont font partie des personnes politiquement
puissantes. De plus, des personnes criminelles utilisent
aussi l’IA. Il convient d’en tenir compte lors de la conception
et de la réglementation de l’IA. Toutefois, les dommages
potentiels ne sont pas une caractéristique du développement
technologique, mais un résultat de son utilisation. Il est donc
d’autant plus important que les communes, les cantons et
l’Etat réglementent l’espace numérique pour éviter que d’autres
acteurs s’en chargent et dictent leurs ordres. Et au-delà des
frontières.

ALGORITHME
CORPUS
DEEP LEARNING
PROFILING
DYNAMIC PRICING
INTELLIGENCE COGNITIVE
SMART PROCUREMENT
BIG DATA

38 39
Lexique de l’IA
Ce qu’il faut savoir de A à Z.
Pour façonner l’avenir de l’IA,
nous devons la comprendre.
A
Achat intelligent
Des solutions intelligentes soutiendront les processus d’achat
dans les entreprises dans un proche avenir. De premières offres
de solutions prévoient l’intégration de commandes vocales et
d’assistants numériques. De cette manière, des processus
largement standardisés doivent être mis en œuvre de manière
plus efficace.
Administration publique
Dans le domaine de l’administration publique, l’utilisation de
l’IA offre la possibilité de fournir aux citoyens des informations
et des services d’une manière plus ciblée, plus précise et plus
facilement accessible, et de les préparer au sein de l’administration.
Pour l’administration, les exigences, les conditions-cadres
et les possibilités changent en raison du recours à l’IA.
Algorithme
Les algorithmes sont des modèles mathématiques et statistiques
qui, sur la base d’une certaine question et du modèle de
données sous-jacent, fournissent de nouveaux constats ou de
nouvelles informations qui contribuent au soutien à la prise
décision, voire à la décision elle-même. D’un point de vue
économique, ces algorithmes sont le moteur de l’innovation.
Alpha Go
Le Chinois Ke Jie, âgé de vingt ans, maîtrise comme aucune
autre personne le jeu de plateau chinois Go, vieux de presque
trois mille ans. Le jeu de Go, d’une stratégie extrêmement
complexe avec son nombre presque infini de coups potentiels
(le nombre est supérieur à celui de tous les atomes de l’univers),
était auparavant considéré comme invincible pour les ordinateurs.
Mais Ke a trouvé son maître le 27 mai 2017. Il a été battu
en trois parties. Son adversaire tout-puissant : AlphaGo, un
ordinateur développé par Google. AlphaGo est un système
d’auto-apprentissage, ce qui signifie que seules les règles de
base du Go ont été programmées par des êtres humains.
AlphaGo a « appris » le reste en mémorisant les schémas de
millions de coups et en jouant contre lui-même dans d’innombrables
parties. Et il n’a cessé de s’améliorer. « C’était comme
si je jouais contre Dieu. L’avenir appartient aux machines »,
a déclaré Ke après sa défaite.
La victoire d’AlphaGo sur Ke Jie symbolise les énormes progrès
réalisés ces dernières années dans des domaines tels que
l’intelligence artificielle, les systèmes d’auto-apprentissage et
la robotique.
Apprentissage automatique
L’apprentissage automatique (Machine Learning ou ML) désigne
des procédures dans lesquelles des algorithmes informatiques
apprennent à partir de données, par exemple pour reconnaître
des modèles ou montrer les comportements souhaités, sans
que chaque cas individuel n’ait été explicitement programmé.
Dans le domaine de la vente de livres en ligne, les algorithmes
apprennent par exemple qu’il existe certaines catégories de
livres qui sont achetés par certains types de clients sans qu’on

40 41
B
ait défini au préalable ce que sont les romans d’amour ou ce que
lit un jeune père. Les véhicules autonomes apprennent du fait
que des personnes les conduisent pendant un certain temps.
Cette méthode permet aussi d’entraîner la description automatique
(étiquetage) d’images. Des personnes complètent les
images avec des informations qui indiquent si l’expression du
visage est gaie ou triste, et après plusieurs milliers ou dizaines
de milliers d’exemples, un algorithme peut apprendre à classer
lui-même de nouvelles images. L’apprentissage automatique
est souvent assimilé à l’IA. Alors que l’apprentissage automatique
(ML) est fréquemment utilisé dans l’IA, ML reste une
méthode ou un outil parmi tant d’autres instruments de l’IA.
L’apprentissage automatique avec des réseaux neuronaux
rudimentaires s’appelle deep learning.
Big data
Big data est un terme générique pour désigner le traitement
d’énormes quantités de données, de nature très différente, qui
ne peuvent plus être traitées avec des méthodes conventionnelles
de traitement de données. Les trois caractéristiques typiques
du big data sont VVV :
– « Volume » (volume de données)
– « Velocity » (vitesse à laquelle les données sont collectées)
– « Variety » (variété des types et des sources de données).
Un autre facteur est la possibilité de structurer les données en
tableaux, qui ont longtemps été le format le plus important
dans lequel les données pouvaient être stockées. Le big data
permet désormais également de traiter de manière standardisée
des quantités de données non structurées. Il s’agit souvent de
flux de données, qui ne peuvent pas être saisis dans leur
intégralité dans des bases de données classiques. Les propriétaires
ou utilisateurs de données croient souvent à tort qu’ils ont
affaire au big data simplement parce qu’ils disposent d’un
grand nombre de données. Par exemple, une base de données
de numéros de téléphone pour l’ensemble de la Suisse est
relativement importante, mais elle ne serait pas considérée
comme big data. Les données audio de tous les appels téléphoniques
en cours, par contre, le sont. En résumé, le big data
fait référence à l’utilisation de grandes quantités de données
provenant de sources multiples à des vitesses de traitement
élevées pour générer des avantages économiques.
Bots
En 2016, les chatbots deviennent à la mode. Ils permettent aux
utilisateurs d’interagir avec le système via un texte écrit (chat).
En 2017, les assistants personnels à commande vocale (les
robots vocaux comme Amazon Alexa ou Google Home) ont fait
leur entrée chez les utilisateurs et ont connu une évolution
remarquable, car la parole offre de nets avantages en termes de
facilité d’utilisation sur le texte écrit. Dans la course à l’interaction
la plus pratique et à la meilleure perception pour les
utilisateurs, les premiers systèmes de dialogue sémantique
pilotés par l’image, les visual bots, ont été lancés sur le marché.
Des découvertes récentes en neurosciences montrent que la
partie limbique du cerveau humain traite les émotions principalement
générées par des images à une vitesse mille fois
supérieure – mais le système limbique n’a aucune capacité pour
le traitement du langage. On peut s’attendre ici à un prochain
saut vers des aptitudes à la conversation et à l’interaction.

HUMAN, MALE, 35
HUMAN, MALE, 56
HUMAN, FEMALE, 30
HUMAN, FEMALE, 47
HUMAN, FEMALE, 25
HUMAN, MALE, 56

44 45
C
Capteurs
Les systèmes d’IA ont besoin de données. Plus il y a de données,
meilleurs sont les résultats. Ces données peuvent provenir de
bases de données ou être obtenues à l’aide de capteurs : les
capteurs mesurent par exemple les vibrations, les courants et les
températures des machines et fournissent ainsi à un système
d’IA des informations pour pronostiquer les échéances des
travaux de maintenance. D’autres capteurs enregistrent le pouls,
la tension artérielle, voire les taux de glycémie chez les êtres
humains afin de tirer des conclusions sur leur état de santé. Ces
dernières années, la robotique mobile et la conduite autonome
ont donné de nombreuses impulsions à la technologie des
capteurs.
Changement structurel
L’IA conduira à une situation dans laquelle de nombreuses
activités – en particulier des activités de routine – ne seront
plus demandées sur le marché du travail. En même temps,
l’humain ne sera pas remplacé, et il ne faut pas s’attendre à un
royaume automatisé de la liberté dans lequel le travail deviendra
superflu. On doit s’attendre à ce que la vague d’automatisation
intelligente entraîne l’émergence de nombreuses nouvelles
professions et une valorisation de nombreux groupes professionnels
dans des domaines tels que les services sociaux, les arts
et la culture, le secteur du divertissement, les activités de loisir,
la formation et l’environnement. Le travail créatif sera renforcé.
Tous les processus associés à cette transformation sociale
doivent être activement promus par la classe politique et placés
sur une base financière stable.
Collaboration
Dans un avenir relativement proche, l’IA libérera nos esprits de
tâches routinières, répétitives et axées sur des processus. Du
temps et des ressources pourront ainsi être réinvestis – surtout
dans l’innovation et la créativité. Le résultat est un changement
presque révolutionnaire dans le travail. C’est ce que souligne
une nouvelle étude des scientifiques de Goldsmiths, Université
de Londres, réalisée en collaboration avec IPsoft. L’étude,
intitulée « FuturaCorp : Artificial Intelligence & The Freedom To
Be Human », montre la vision d’une FuturaCorp – un lieu de
travail idéal pour l’homme et la machine.
Le résultat de l’étude démontre que la productivité de Futura-
Corp peut être multipliée par 3,5 par rapport aux organisations
actuelles. En effet, les entreprises automatisent des tâches
répétitives et les employés acceptent des emplois qui exigent des
compétences plus élevées. Toutefois, le potentiel pour une
productivité plus élevée n’augmente que si le fonctionnement
de l’intelligence artificielle est compris ainsi que la façon dont
les systèmes d’IA peuvent compléter et améliorer les performances
créatives des êtres humains.
L’étude décrit des profils d’emploi fondés sur un ensemble de
tâches. Certaines tâches sont répétitives et axées sur les
processus (déterministes). D’autres requièrent une collaboration
entre l’IA et les individus (approche probabiliste). Et d’autres,
enfin, exigent des approches que seul le cerveau humain
peut développer – de la génération d’idées à la résolution de
problèmes complexes (pensée interfonctionnelle).

46 47
Communication
Les systèmes modernes de communication et d’information
forment le système nerveux central d’une économie et d’une
société numériques. Afin de garantir un réseautage efficace
et fiable, il s’agit de développer de nouveaux systèmes de
communication capables d’apprendre et de s’adapter, mais aussi
de gérer les ressources existantes de manière efficace et
durable. Afin de détecter des anomalies dans les réseaux ainsi
que dans les systèmes informatiques et de production,
d’énormes quantités de données doivent être analysées dans
des délais très courts. Cela nécessite la recherche et le développement
de nouveaux processus (partiellement) automatisés,
qui se basent sur des méthodes d’IA.
Contrôleur-euse
Un-e contrôleur-euse IA vérifie le bon fonctionnement d’un ou
plusieurs IA en cours de fonctionnement et intervient immédiatement
en cas de dysfonctionnement ou de danger manifeste.
Un-e contrôleur-euse IA pourrait être responsable par exemple
d’une petite flotte de plusieurs camions autonomes et les
surveiller à distance.
Conversational Interfaces
Les interfaces de conversation (en anglais, « conversational
interfaces ») sont une méthodologie d’interaction entre l’IA et
les utilisateurs, dotée d’une sémantique appropriée et orientée
vers une compréhension basée sur le dialogue. La langue écrite
ou parlée est utilisée pour interagir avec l’ordinateur.
Corpus
Les algorithmes génèrent de la valeur ajoutée à partir de
données qu’ils transformant en informations et préparent de
manière à ce qu’elles puissent être utilisées dans la société
de façon ciblée. Les algorithmes sont basés sur des données qui
contribuent à la prise de décision. Tout comme les décideurs
humains, les algorithmes peuvent aussi prendre des décisions
erronées fondées sur des données incomplètes ou incorrectes.
Comme dans le cas de prises de décision humaines, une relation
de confiance avec le fournisseur de données demeure la meilleure
garantie pour l’exactitude des informations fournies en
raison de la complexité du système.
La collecte de données et d’algorithmes corrects à partir
desquels des informations sont déduites, également connue
sous le nom de corpus, est très précieuse pour les entreprises
et mobilise parfois d’importantes ressources. Il est donc crucial
de protéger juridiquement ces corpus, par exemple par le biais
des droits de la propriété intellectuelle. Dans le même temps,
le droit d’auteur ne doit pas devenir un obstacle à la création de
tels corpus uniquement parce qu’une partie des données
collectées bénéficie également de la protection du droit d’auteur.
D’où la nécessité d’avoir une exemption explicite pour tous
les domaines d’application de l’IA dans le cadre réglementaire
européen. Car ce sera un avantage compétitif d’avoir accès à
des corpus complets et de grande qualité – des recueils de
contenus spécifiques à un domaine, qui peuvent être développés
ou acquis, puis enrichis au fur à mesure.

48 49
Culture
En tant que tâche centrale de la politique culturelle et de la
politique des médias, il est essentiel d’assurer, même à l’époque
de l’IA, des conditions-cadres qui créent et préservent la
diversité et garantissent l’espace nécessaire au développement
de la liberté culturelle et des médias. L’IA a des possibilités dans
le secteur de la culture et des médias. Car la liberté d’une
société démocratique se laisse toujours avant tout définir aussi
par sa diversité culturelle et médiatique et l’indépendance des
médias. Ces principes doivent donc être préservés. Dans le même
temps, les nombreux potentiels de l’IA dans l’économie de la
culture, des médias et de la création devraient être augmentés.
Bien que l’intelligence artificielle ne puisse remplacer la
créativité humaine, elle peut aussi être un instrument d’inspiration
supplémentaire dans le processus créatif et ouvrir de
nouvelles voies pour diffuser la culture et l’art. Ces espaces de
possibilités doivent être utilisés dans le sens de la liberté
d’opinion, d’information, des médias et de l’art – tout en étant
conscients aussi des limites éthiques et des dangers possibles
pour notre société démocratique libre. En outre, les principes de
transparence et de non-discrimination doivent également valoir
pour les applications de l’intelligence artificielle dans les
secteurs des médias et de la culture, afin de garantir la formation
libre de l’opinion publique et des individus.
D
Deep learning
Le deep learning (« apprentissage profond ») est l’utilisation des
réseaux neuronaux pour renforcer l’apprentissage. La discussion
internationale sur le deep learning porte actuellement sur
les frameworks, l’optimisation du deep learning et ses limites.
L’optimisation de la fonctionnalité et de la convivialité de ces
frameworks est un levier clé pour faciliter aux spécialistes
des données leur entrée dans le deep learning. Dans le même
temps, on discute de plus en plus des limites de la reconnaissance
pure de modèles par rapport à une utilisation duale de
reconnaissance de modèles avec des approches d’apprentissage
génériques. Mais le degré élevé de complexité des réseaux de
neurones par rapport à l’utilisation de méthodes plus simples
avec des résultats tout aussi bons fait également l’objet d’une
discussion animée.
Dignité
La dignité humaine est fondée sur l’idée que chaque être humain
a une « valeur inhérente » qui ne doit en aucun cas être diminuée,
compromise ou opprimée par de nouvelles technologies
telles que les systèmes IA. Dans le contexte de l’IA, le respect de
la dignité humaine exige que tous les êtres humains soient
traités avec respect, car ils sont des sujets moraux et non de
simples objets à examiner, trier, évaluer, regrouper, conditionner
ou manipuler. Les systèmes d’IA devraient donc être
développés de manière à respecter, promouvoir et protéger
l’intégrité physique et mentale des êtres humains, leur identité
personnelle et culturelle ainsi que la satisfaction de leurs
besoins fondamentaux.

50 51
E
Droits de l’homme
L’AI est fondée sur les droits fondamentaux consacrés par le
droit international des droits de l’homme. Le respect des droits
fondamentaux dans le cadre de la démocratie et de l’État de
droit constitue la base la plus favorable pour définir des
principes et valeurs éthiques abstraits qui peuvent être transposés
concrètement dans le contexte de l’IA.
Dynamic Pricing
Le Dynamic Pricing (ou tarification dynamique) décrit la tentative
de déterminer le prix idéal au moment choisi au moyen de
l’IA à l’intérieur de niveaux de prix qui changent rapidement.
Cela est atteint lorsque le niveau de la demande et la taille de la
marge sont dans une relation optimale entre eux.
Entraînement
Presque tout le monde entraîne l’IA. Toute personne qui
visite un site web et doit prouver qu’elle n’est pas un robot en
marquant, par exemple, parmi plusieurs images celles sur
lesquelles sont représentés des feux de circulation ou autres
objets, contribue automatiquement à entraîner les ordinateurs
et à optimiser la reconnaissance des images des systèmes
intelligents.
Ethique
C’est un vaste domaine et peut-être le plus important lié à
l’IA. Les possibilités ouvertes par l’IA nous confrontent à de
nouveaux problèmes éthiques. Jusqu’à présent, les garde-fous
éthiques ont été fondés sur des relations interpersonnelles et
des représentations de valeurs traditionnelles. Cependant, dans
F
G
une nouvelle ère d’influence technologique dominée par l’IA,
cet ensemble de valeurs ne suffit pas à lui seul. De nouvelles
questions, auparavant inimaginables, se posent.
Formation
Les entreprises sont en compétition mondiale pour obtenir les
(meilleurs) experts en IA. L’offre est limitée en développeurs
d’intelligence artificielle et de spécialistes des données scientifiques.
Dans l’enseignement supérieur, une réforme est nécessaire
pour intégrer plus rapidement les nouveaux développements
technologiques dans les cursus techniques, étendre les filières
classiques d’ingénierie avec des modules en sciences des
données et intégrer davantage l’IA dans l’enseignement
supérieur. L’analyse des données et l’IA doivent également jouer
un rôle plus important dans la formation scolaire et professionnelle
ainsi que dans la formation continue en entreprise.
En particulier, les compétences en matière d’application et de
classification ou d’interprétation des résultats découlant des
applications d’analyse de données et d’IA gagneront en importance
pour le travail quotidien d’une grande partie du personnel
dans les années à venir, car ces technologies deviendront des
outils précieux pour soutenir les employés.
Gestionnaire IA
Un gestionnaire IA participe au développement et à l’amélioration
de certaines IA en cours de fonctionnement. Contrairement
au contrôleur IA, le gestionnaire IA a une tâche active vis-à-vis
de l’IA dans le cadre opérationnel réglementaire et lui transmet
un savoir facile à appréhender pour les êtres humains. Dans

52 53
H
I
le cas d’une IA qui serait utilisée par exemple dans le contexte
de processus d’entreprise, un formateur d’IA serait chargé de
transmettre à l’IA, à la fois initialement et continuellement, les
processus opérationnels en cours d’évolution, y compris la
différence entre des situations exceptionnelles légitimes et des
scénarios d’erreur.
Histoire
L’événement fondateur de l’intelligence artificielle comme une
discipline académique remonte à la conférence de Dartmouth de
l’été 1956 au Dartmouth College de Hanovre (New Hampshire),
un atelier de six semaines intitulé Dartmouth Summer Research
Project on Artificial Intelligence – organisé par John McCarthy
dans le cadre d’un projet de recherche financé par Rockefeller.
Dans la proposition, le terme « intelligence artificielle » (IA)
apparaît pour la première fois.
IA faible
De façon très abstraite, les chercheurs en IA s’assignent deux
directions : l’IA « faible » ou « forte ». L’intelligence artificielle
« faible » vise la résolution de problèmes d’application concrets
sur la base de méthodes provenant des mathématiques et
de l’informatique, quoi que les systèmes développés soient
capables d’auto-optimisation. A cette fin, des aspects de
l’intelligence humaine sont simulés et formellement décrits et
des systèmes de simulation et de soutien de la pensée humaine
sont construits. L’IA « forte » établit que les systèmes d’IA
ont les mêmes capacités intellectuelles que les humains ou
qu’ils peuvent même les surpasser.
Industrie
Les applications d’intelligence artificielle industrielle fournissent
des instruments pour traiter efficacement les données
issues des processus industriels et les interpréter au profit des
entreprises et de leurs clients. L’IA est donc un élément central
et un moteur essentiel pour surveiller, gérer et réguler ces
processus de manière intelligente, les rendre plus flexibles et
ainsi élever l’industrie 4.0 à un nouveau niveau.
Intelligence artificielle
L’intelligence artificielle décrit des applications informatiques
dont le but est de montrer un comportement intelligent et
humain. Pour y parvenir, certaines compétences de base sont
requises dans des proportions différentes : la perception, la
compréhension, l’action et l’apprentissage. Ces quatre compétences
de base constituent la plus grande simplification possible
d’un modèle d’IA moderne : percevoir – comprendre – agir
étendent le principe de base de tous les systèmes informatiques :
entrée – traitement – sortie. Ce qui est vraiment nouveau,
c’est l’apprentissage et la compréhension. Les « véritables »
systèmes d’IA d’aujourd’hui ont en commun le fait qu’ils sont
également entraînés dans la composante de traitement et
peuvent donc apprendre et obtenir de meilleurs résultats que
les méthodes conventionnelles, qui sont uniquement basées
sur des règles rigides, clairement définies et programmées de
manière fixe.
Intelligence cognitive
Dans le cas de l’intelligence cognitive, la machine est déjà
supérieure aux humains dans de nombreux domaines : échecs,
Go et autres jeux de table. Partout où les connaissances sont

56 57
absorbées et apprises, de nouvelles combinaisons sont élaborées
pour en tirer des conclusions. Cela correspond souvent à ce que
les individus acquièrent dans leur formation.
Intelligence émotionnelle
Dans ce domaine, la machine n’a pratiquement rien réalisé
jusqu’à présent. L’être humain peut se mettre à la place d’une
autre personne, éprouver de la sympathie et de l’empathie,
de la compassion, de la pitié, du chagrin, de la peur, de la joie,
écrire des poèmes d’amour, avoir des accès de colère, etc. Mais
les machines peuvent déjà aujourd’hui analyser les sentiments,
c’est-à-dire « lire » les émotions d’une personne en observant
son langage corporel, donc son visage, sa gestuelle, etc.
Intelligence sensomotrice
Avec cette intelligence, l’être humain est encore supérieur à la
machine, mais certaines machines lui sont supérieures dans
des domaines de capteurs individuels. En principe, l’œil humain
est très bien développé. Mais une caméra vidéo appropriée peut
également traiter la lumière dans le domaine des infrarouges
et UV, ce dont n’est pas capable un être humain. En acoustique,
les microphones peuvent capter des volumes sonores beaucoup
plus faibles ou d’autres gammes de fréquences que l’oreille
humaine. C’est encore plus vrai pour le sens de l’odorat et
du goût, où les capteurs mécaniques sont nettement supérieurs.
Cependant, un être humain peut combiner ces impressions
sensorielles (fusion de capteurs), ce qu’une machine est
quasiment incapable de faire jusqu’à présent. Cependant, une
amélioration pourrait se dessiner dans quelques années.
J
Intelligence sociale
Il s’agit de la capacité à (ré)agir de manière appropriée dans un
groupe humain, par exemple pour reconnaître ou influencer de
manière constructive une ambiance, p. ex. l’esprit d’équipe.
Jusqu’à présent, la machine ne peut rien faire dans ce domaine.
Internet des choses
L’internet des objets (Internet of Things, IoT) désigne la mise en
réseau croissante d’outils, de dispositifs, de capteurs, de véhicules,
etc. par l’installation de puces et l’attribution d’identificateurs
numériques uniques, comparables aux adresses URL sur
le Web. L’échange de données rendu possible par cette mise en
réseau permet d’obtenir des quantités de données extrêmement
importantes.
Jobs (micro-jobs et travail du clic)
L’IA pourrait rendre de nombreux emplois superflus. Mais avant
que cela n’arrive, elle créera d’innombrables nouveaux emplois.
Un grand nombre de soi-disant micro-jobs et de travailleurs
du clic exécutent des tâches qui ne peuvent pas encore être
automatisées. L’industrie automobile passe p. ex. un très grand
nombre de commandes auprès des crowdworkers pour entraîner
l’IA en vue de l’avènement des véhicules autonomes. D’innombrables
pixels sont ainsi étiquetés un à un : est-ce un être
humain ? Une clôture de jardin ? Les crowdworkers travaillent
toutefois souvent seuls, sans prestations sociales. Quant aux
travailleurs du clic, il n’est pas rare que leur revenu soit
constitué de petits montants.

58 59
L
Langue
Les technologies langagières peuvent contribuer à la démocratisation
des décisions si elles permettent aux utilisateurs une
action informée. Par exemple en assurant la transparence, par la
mise en relation des humains avec des informations et des
connaissances, en traduisant, en résumant, en reconnaissant
des émotions, etc …
Liberté
L’une des exigences éthiques est que les individus devraient
avoir la liberté de faire leurs propres choix de vie. D’une part,
cela signifie d’être libre d’une intervention de l’État. D’autre
part, cela nécessite toutefois des mesures de la part du gouvernement
et des organisations non gouvernementales pour
garantir aux citoyens touchés par le danger d’exclusion un
même accès aux avantages et aux possibilités de l’IA. Dans le
contexte de l’IA, la liberté individuelle exige d’endiguer la
coercition illégale (in)directe, les menaces pour l’autodétermination
intellectuelle et la santé mentale, la surveillance
injustifiée, la tromperie et la manipulation injuste. En effet, la
liberté de chacun-e représente une obligation à permettre aux
individus d’exercer un contrôle encore plus important sur leur
propre vie. Cela inclut (entre autres droits) la protection de
la liberté d’entreprise, de la liberté des arts et des sciences, de
la liberté d’expression, du droit à la vie privée et à la sphère
privée, du droit de réunion et d’association.
M
N
Mobilité
Les systèmes d’IA contribuent de manière décisive à la réalisation
d’une conduite autonome. L’environnement complexe de la
circulation routière urbaine pose un énorme défi. De la fusion
des données des capteurs à la reconnaissance d’objets, en
passant par la planification des manœuvres de conduite dans le
véhicule, les technologies IA sont indispensables. En raison
des exigences élevées en matière de sécurité dans le secteur
automobile, la fiabilité des procédures d’IA joue un rôle essentiel.
A cette fin, l’acquisition de suffisamment de données
d’entraînement et le développement de bases de données ad
hoc revêtent une importance particulière. De plus, en vue de
futures autorisations, il est important de développer de nouveaux
processus, méthodes et critères de qualité.
Moment marketing
En raison de la joignabilité constante et des changements
survenus dans l’utilisation des médias, le moment du marketing
a pris de l’importance, et il serait difficilement imaginable sans
l’inclusion du big data et de l’algorithmique. De nombreuses
sources sont combinées, afin de fournir aux clients potentiels le
bon message au bon moment.
Notation
La notation est généralement comprise comme une procédure
mathématico-statistique qui permet de calculer la probabilité
avec laquelle une certaine personne se comportera d’une
certaine manière.

60 61
P
Précarité
Bon nombre des progrès récents de l’intelligence artificielle
sous le paradigme de l’apprentissage automatique sont dus non
seulement aux innovations de la technique du logiciel et du
hardware, mais aussi aux nouvelles possibilités de mettre au
service des machines la faculté de jugement humain, et ce de
manière rapide et bon marché. L’IA a besoin de scientifiques et
d’experts, mais aussi d’employés auxiliaires qui compilent
le matériel pédagogique et surveillent les progrès d’apprentissage
des systèmes. Ceux-ci exécutent des tâches qui nécessitent
peu de qualification, sans toutefois se laisser automatiser. Ils
écrivent des légendes, traduisent de courts textes, évaluent
des traductions, fixent par écrit des textes parlés, tapent à la
main des formulaires complétés ou diagnostiquent des symptômes
de maladie. Ils travaillent seuls, souvent sans contrat de
travail et sans sécurité sociale. Ce ne sont pas des travailleurs
journaliers, mais des « travailleurs à la minute », car les tâches
qui leur sont assignées par les plateformes de placement sur
Internet peuvent souvent être accomplies très rapidement. Leurs
gains se chiffrent en centimes. Ils sont les ratés de la gig
economy, les démunis de l’économie du partage, les marginalisés
du crowdsourcing. Ils forment le précariat de l’IA. On les
appelle aussi micro-employés ou travailleurs du clic. On les
trouve dans le monde entier, aussi bien dans les pays industrialisés
que dans les pays en développement. Mais ils passent
toujours inaperçus. C’est pourquoi leur travail est également
qualifié de « travail fantôme ».
Précision
La précision fait référence à la capacité d’un système d’IA à
évaluer correctement des faits, par exemple en classant correctement
des informations par catégories ou en faisant des
prédictions, recommandations ou décisions correctes sur la base
de données ou de modèles. Un processus d’élaboration et
d’évaluation explicite et bien conçu peut mettre en évidence,
éviter et corriger des risques indésirables qui découlent de
fausses prédictions. Même si des prédictions imprécises occasionnelles
ne peuvent être évitées, il est important que le
système soit en mesure d’indiquer la probabilité avec laquelle
des erreurs se produisent. Un haut niveau de précision est
indispensable, en particulier lorsque des systèmes d’IA ont un
impact direct sur la vie humaine.
Profilage
Par profilage, on entend tout traitement automatisé de données
personnelles qui consiste à les utiliser pour évaluer certains
aspects de la personnalité d’une personne physique.
Protection des données
Le droit applicable à la protection des données est pertinent
pour le traitement des données au moyen d’algorithmes lorsque
les données traitées ou recueillies concernent une personne
en particulier ou au moins identifiable, donc lorsqu’elles peuvent
être liées à cette personne. Le droit applicable à la protection
des données fait partie de la protection du libre épanouissement
de la personnalité et de la sphère privée et est inscrit dans
le droit fédéral suisse, ainsi que dans la Charte des droits

62 63
R
fondamentaux de l’UE et dans la Convention européenne des
droits de l’homme. Une violation de la protection des données
personnelles peut entraîner un préjudice physique matériel
ou immatériel pour des personnes physiques, tel que discrimination,
vol d’identité, perte financière, atteinte à la réputation
ou autres désavantages économiques ou sociaux importants. Afin
de se prémunir contre ces risques, la loi sur la protection des
données sert surtout de droit aux individus pour se défendre
contre l’Etat, mais elle fixe également des règles en matière de
traitement des données personnelles pour les entreprises.
Racisme
La qualité des systèmes algorithmiques dépend de la qualité
des données qui les alimentent. Cela signifie que la technologie
n’est jamais neutre et qu’elle adopte également des préjugés. Si
les données qui servent à enrichir les systèmes d’intelligence
artificielle sont racistes, la technologie l’est aussi. Il arrive ainsi
que des systèmes intelligents n’aient pas été en mesure d’identifier
des personnes de couleur en tant que telles parce qu’elles
ont été négligés pendant la saisie des données. En lieu et place,
elles ont été classées dans la catégorie des gorilles.
Reconnaissance de formes
L’intelligence visuelle permet de reconnaître et d’analyser des
images ou des formes. Comme exemples d’applications, nous
avons ici la reconnaissance de l’écriture manuscrite, l’identification
de personnes par reconnaissance faciale, la comparaison
d’empreintes digitales ou de l’iris, le contrôle qualité industriel
et l’automatisation industrielle (cette dernière en combinaison
avec la robotique).
S
Grâce à l’intelligence linguistique, il est possible de convertir
p. ex. un texte écrit en parole (synthèse vocale) et inversement
de transposer par écrit un texte parlé (reconnaissance vocale).
Ce traitement automatique du langage peut être développé,
de sorte qu’un sens soit attribué aux mots et aux textes grâce à
l’analyse sémantique latente.
Google Brain et Microsoft Adam sont des exemples de systèmes
de reconnaissance de formes.
Robotique
La robotique traite de l’intelligence manipulatrice. Les robots
peuvent être utilisés pour automatiser des activités dangereuses
comme la détection de mines ou des manipulations répétitives
qui se produisent p. ex. pendant le soudage ou la peinture.
L’idée de base est de créer des systèmes capables de reproduire
le comportement intelligent des êtres vivants. Des exemples de
tels robots sont ASIMO et Atlas.
Santé
Compte tenu de la numérisation, l’ampleur des informations
utilisables dans le secteur de la santé pour gérer les processus
de fourniture de soins et leurs structures augmente. Dans
l’intérêt des patients, les données issues des processus de
fourniture de soins et des processus de facturation doivent dont
être accessibles d’une manière cohérente et conforme à la
protection des données, et dans des formats adaptés aux
systèmes d’apprentissage. L’objectif doit être d’utiliser à l’avenir
les données d’une manière conforme aux exigences en matière de
protection des données, afin de démontrer les corrélations
et de trouver de nouvelles approches, d’identifier encore mieux

64 65
les maladies et les risques, et de pouvoir entamer un traitement
à un stade précoce. De point de vue des patients, il convient de
prendre en compte les aspects de la souveraineté des données,
les droits des patients, les intérêts des patients dignes de
protection et les exigences éthiques pour le domaine particulièrement
sensible de l’utilisation des données médicales.
Pour exploiter les potentiels technologiques d’utilisation de
très grandes quantités de données (applications du big data) et
d’applications d’IA et permettre aux entreprises suisses de
réussir dans ce domaine concurrentiel, la Suisse devra établir
des formats favorables à une meilleure mise en réseau et à un
meilleur échange de données entre fourniture et recherche,
conformément aux exigences de la protection des données.
Ils devront bientôt s’attendre à être surveillés eux aussi
par capteurs, déclare un professeur d’aviation de l’Université
de Chine.
Singularité technologique
Si un système superintelligent commence à s’améliorer
continuellement, alors l’état de singularité est atteint, où
l’intelligence automatique dans son ensemble dépasse l’intelligence
humaine. D’ici à ce que les systèmes actuels ou en
développement atteignent de telles performances, il faudra
encore des décennies d’un point de vue purement technique.
La question se pose également de savoir si une super intelligence
automatique est souhaitable ou même nécessaire.
Scanner du cerveau
Une entreprise chinoise a franchi un nouveau niveau de surveillance
et de contrôle : comme l’a rapporté le « South China
Morning Post », les employés de l’usine Hangzhou Zhongheng
Electric portent des casquettes qui dissimulent des capteurs
de balayage. Ces appareils de mesure capturent en permanence
les ondes cérébrales des travailleurs à la chaîne pour évaluer
comment ils se sentent. Un fournisseur d’énergie qui travaille
avec des électroencéphalogrammes depuis 2014 aurait ainsi
réalisé un bénéfice de 315 millions de dollars supplémentaires –
parce que les données sur le cerveau ont montré quand
l’équipe a besoin d’une pause. Aussi pour les conducteurs
de train chinois, de premières casquettes munies de capteurs
sont déjà disponibles. Leur but premier est de constater
assez tôt quand ils sont trop fatigués et courent le risque
de s’endormir. L’Etat chinois prévoit la même chose pour
les pilotes.
T
Spécialiste
Un spécialiste de l’IA exécute, dans le même processus de travail
que l’IA, les tâches qu’une IA n’est pas capable d’accomplir de
manière autonome. Ici, on assiste, du côté de l’IA, à un transfert
explicite à l’être humain dès que l’IA atteint ses limites. Cette
forme de transfert peut déjà être observée dans certains
scénarios de support client, par exemple, mais elle sera étendue
à d’autres domaines d’interaction client à l’avenir.
Test de Turing
Afin d’avoir un critère lorsqu’une machine simule une intelligence
équivalente à celle de l’homme, Alan Turing a proposé le
test de Turing qui porte son nom. Dans ce test, une personne
utilise un terminal pour poser des questions à une autre
personne ou à une IA sans savoir qui répond. La personne qui
pose la question doit décider si la personne interrogée était

66 67
une machine ou une personne. Selon Turing, si on ne peut pas
établir de distinction entre la machine et l’être humain, alors la
machine est intelligente. Jusqu’à présent, aucune machine n’a
réussi le test de Turing sans qu’aucun doute n’ait été émis.
Traducteurs-trices
Un-e traducteur-trice d’IA sert de lien entre les acteurs humains
d’une entreprise et une ou plusieurs IA de l’entreprise. La
traduction s’effectue dans deux sens, c’est-à-dire sous la forme
d’une aide à l’IA pour la formulation de demandes et de tâches,
et sous la forme d’explications et de classification des résultats
produits par l’IA. Ce poste requiert une qualification particulière,
car il exige une connaissance du fonctionnement de l’IA
et du contexte opérationnel. On peut imaginer par exemple
un-e traducteur-trice typique d’IA dans un scénario où une IA
effectue une analyse automatique des données et où les
résultats de l’analyse doivent être rendus compréhensibles pour
des décideurs humains.

70 71
Conclusion et perspective
Le premier objectif de cette brochure est de rapprocher l’IA des
lectrices et lecteurs. Car même si l’intelligence artificielle
s’immisce de plus en plus dans notre quotidien et le monde
professionnel, nous ne savons pas grand-chose à son sujet. Et
sur ce que le peu que nous savons, nous ne devons avoir rien à
craindre, affirmait Marie Sk odowska Curie.
Le deuxième objectif de cette brochure et de la résolution
qu’elle contient est de développer des principes directeurs pour
un traitement éthique de l’IA. Nous ne prétendons pas avoir
trouvé la « pierre philosophale » avec nos principes directeurs,
mais nous voulons continuer à les développer dans le cadre d’un
discours mené non seulement avec nos membres, mais aussi
avec le monde scientifique, la classe politique et les partenaires
sociaux. Pour parvenir ainsi à un consensus encore plus large.
À la lecture des principes directeurs IA de syndicom, on peut
être surpris : ils semblent presque trop simples pour un sujet
d’une telle portée et ne sont certainement pas une grande
surprise pour l’une ou l’autre d’entre vous. Chaque principe
en soi est toutefois fondamental : pour la prise en charge de
la responsabilité, pour la transparence, pour la protection des
données, pour la sécurité, pour l’autodétermination des
données, pour la protection des consommatrices et consommateurs.
Bref, pour les principes que nous connaissons aujourd’hui
et dont on s’attend en tant qu’utilisatrices et utilisateurs
à ce qu’ils soient respectés dans le cadre de l’interaction
avec les produits et services – sans être toutefois certains qu’ils
soient pris en compte en fonction des applications d’IA.
Dans un monde numérique où l’intelligence artificielle gagne
du terrain, chaque personne doit pouvoir décider librement et
de manière autonome où et dans quelle mesure elle soutient la
technologie, et dans quels cas elle souhaite agir elle-même sans
une aide fondée sur l’intelligence artificielle. Les événements
et les résultats qui concernent directement des individus, mais
qui sont hors de leur champ d’influence, doivent eux aussi
être compréhensibles. Nous sommes convaincus que le grand
potentiel de l’intelligence artificielle ne peut être réalisé que si
elle est adaptée à nos besoins et acceptée par la société.
Cependant, cela doit se faire dans un cadre choisi librement,
qui est éthiquement et juridiquement correct. L’humain doit
continuer à conserver sa souveraineté. Sur la base de notre
expérience avec des technologies de la communication, nous
considérons qu’il est indispensable d’inclure dès le début
les questions éthiques dans le développement et l’utilisation
de l’IA, et de vérifier de manière régulière les réponses à ces
questions au vu de leur actualité. Dans le cadre des droits
humains, de la participation démocratique, de l’État de droit
et de la redistribution sociale, l’objectif doit être que l’intelligence
artificielle serve les personnes et leur liberté – et pas
uniquement les entreprises.
Daniel Hügli,
Secrétaire central du secteur TIC au syndicat syndicom

72
Bibliographie
Die Bundesregierung (2018) : Strategie Künstliche Intelligenz.
Berlin : Bundesministerium für Wirtschaft und Energie.
HEG-KI (2018) : Hochrangige Expertengruppe für Künstliche
Intelligenz. Ethik-Leitlinien für eine vertrauenswürdige KI.
Brüssel : Europäische Kommission.
Mackert M., Kohn, S. (2018) : Deutsche Telekom. Digital Ethics
Guidelines On AI. Bonn : Deutsche Telekom AG.
Reinschmidt, J. (2018) : Menschenzentrierte Künstliche
Intelligenz in der Industrie. Zehn Handlungsempfehlungen
für Deutschland und Europa. Frankfurt am Main : ZVEI –
Zentralverband Elektrotechnik- und Elektroindustrie e.V.
Weber, M., Burchardt, A. (2017) : Künstliche Intelligenz.
Wirtschaftliche Bedeutung, gesellschaftliche Herausforderung,
menschliche Verantwortung. Berlin : Bitkom e.V.

Impressum
Éditeur
Responsabilité
politique
Rédaction
Mise en page
Traduction
Photos
Impression
Tirage
syndicom, secteur TIC
Monbijoustrasse 33, 3011 Berne
ict@syndicom.ch
Giorgio Pardini,
responsable du secteur TIC & membre du comité directeur
de syndicom
Giorgio Pardini, Miriam Berger, Franz Schori, Lena Allenspach,
Daniel Hügli
komform GmbH, Liebefeld, www.komform.ch
Alexandrine Bieri
Adobe Stock, Shutterstock, Unsplash
Stämpfli AG, Berne
1000 exemplaires
Berne, janvier 2020