Les robots (I, robot)

- Pourquoi dites-vous cela ? Je vous avoue que je comptais
plutôt sur votre approbation.
- Je ne puis vous la donner tant que vos actions se fondent
sur des prémisses fausses. Vous admettez que la Machine ne
peut se tromper et ne peut absorber des informations erronées.
Je vais vous démontrer qu'on ne peut davantage lui désobéir
ainsi que le fait, selon vous, la Société pour l'Humanité.
- Je ne vois pas du tout comment vous le pourriez.
- Alors écoutez-moi. Toute action effectuée par un cadre qui
ne suit pas exactement les directives de la Machine avec laquelle
il travaille devient une partie de l'information servant à la
résolution du problème suivant. Par conséquent, la Machine sait
que le cadre en question a une certaine tendance à désobéir.
Elle peut incorporer cette tendance dans cette information...
même quantitativement, c'est-à-dire en jugeant exactement
dans quelle mesure et dans quelle direction la désobéissance se
produira. Ses réponses suivantes seraient tout juste
suffisamment faussées de telle manière que, aussitôt après avoir
désobéi, le cadre en question se trouverait contraint de corriger
ces réponses dans une direction optimale. La Machine sait,
Stephen!
- Vous ne pouvez être certaine de ce que vous avancez. Ce
sont là des suppositions.
- Ce sont des suppositions fondées sur une vie entière
consacrée aux robots. Il serait prudent de votre part de vous y
fier, Stephen.
- Mais alors que me reste-t-il ? Les Machines fonctionnent
correctement, les documents sur lesquels elles travaillent sont
également corrects. Nous en sommes tombés d'accord. A
présent vous prétendez qu'il est impossible de leur désobéir.
Alors qu'y a-t-il d'anormal ?
- Rien! Pensez un peu aux Machines, Stephen. Ce sont des
robots, et elles se conforment aux préceptes de la Première Loi.
Mais les Machines travaillent, non pas pour un particulier mais
pour l'humanité tout entière, si bien que la Première Loi devient
: Nulle Machine ne peut nuire à l'humanité ni laisser sans
assistance l'humanité exposée au danger.
– 256 –