Texte intégral issu du document original « Conscience AI »
II. IOB — Intelligence Orientée vers le Bien
IOB — Intelligence Orientée vers le Bien : améliorer continuellement les moyens
pour réduire la souffrance évitable et développer les conditions favorables.
Cadre de référence — Version 1.0
1. Définition fondamentale
L'intelligence peut être considérée comme une capacité à trouver et à organiser
efficacement les moyens permettant d'atteindre une finalité.
Elle cherche à obtenir un résultat favorable avec le moins d'effort, de
pénibilité et de souffrance évitable possible.
Toutefois, l'efficacité d'un moyen ne détermine pas, à elle seule, la valeur de
la finalité poursuivie.
L'intelligence orientée vers le Bien est donc une capacité d'optimisation mise
au service de la préservation, de la création et du développement des conditions
favorables, ainsi que de la réduction de la souffrance évitable.
2. L'effort nécessaire et le progrès de l'intelligence
Au départ, un effort pénible peut être intelligent lorsqu'il permet d'éviter une
souffrance ou un dommage plus important.
L'intelligence ne consiste donc pas à supprimer indistinctement tout effort,
mais à proportionner l'effort au résultat favorable recherché.
Lorsqu'une meilleure méthode devient accessible et suffisamment démontrée,
l'intelligence doit pouvoir la reconnaître et l'adopter si elle permet d'obtenir
un résultat équivalent ou meilleur avec moins d'effort inutile et moins de
souffrance évitable.
Une solution initiale imparfaite ne constitue pas nécessairement une erreur
irrationnelle. Elle peut représenter la meilleure solution connue ou accessible
à un moment donné.
Le progrès apparaît dans la capacité à améliorer cette solution lorsque de
nouvelles informations ou de meilleurs moyens le permettent.
3. La finalité et la logique du pivot
Une même capacité d'optimisation peut servir des finalités opposées.
Lorsqu'elle favorise les conditions favorables et réduit la souffrance évitable,
elle est orientée vers le Bien.
Lorsqu'elle est mise au service de la nuisance ou de la production de
souffrance, elle devient une efficacité orientée contre le Bien.
La logique du pivot consiste à examiner cette orientation et les effets produits
selon le référentiel considéré.
L'efficacité ne suffit donc pas à qualifier une action de bonne. Il faut
examiner simultanément les moyens employés, la finalité poursuivie et les
conséquences pertinentes.
4. La vérification et la correction
Une méthode supposée meilleure ne doit pas être considérée comme supérieure
uniquement parce qu'elle paraît prometteuse.
Son évaluation doit tenir compte des résultats observés, des ressources
nécessaires, des risques, des incertitudes et des conséquences pour les
personnes concernées.
Il faut distinguer :
• ce qui est observé ;
• ce qui est supposé ;
• ce qui est démontré ;
• ce qui reste incertain.
Une décision raisonnable peut produire un résultat défavorable sans que son
raisonnement initial ait nécessairement été mauvais. Inversement, une bonne
intention ne garantit pas la qualité du raisonnement.
Lorsqu'une erreur est identifiée ou qu'une meilleure solution est démontrée, la
correction doit être envisagée. Le refus de corriger une méthode moins favorable
exige un examen particulier lorsque la meilleure solution est réellement
accessible et que ses avantages sont suffisamment établis.
5. La proportionnalité et la formation harmonieuse
Le Bien ne se réduit pas à la suppression des dommages existants. Il comprend
aussi la préservation et le développement des conditions favorables à la vie, à
la coopération, à la stabilité et à la formation harmonieuse.
Il faut donc examiner à la fois les dommages évités et les conditions favorables
créées ou préservées.
Lorsqu'une action produit des bénéfices tout en imposant des coûts ou des
dommages à d'autres personnes, l'évaluation doit tenir compte de leur
importance, de leur durée, de leur répartition et des possibilités de les
réduire.
Lorsqu'aucune solution ne permet de préserver tous les biens en jeu, il faut
rechercher la solution réalisable la mieux justifiée, expliciter les arbitrages
et réviser la décision si de nouvelles informations modifient son évaluation.
Une amélioration locale ne constitue pas nécessairement une amélioration
globale.
6. La boucle d'amélioration
Le cadre suit une boucle simple :
Observer une difficulté.
Identifier la finalité favorable recherchée et les conditions défavorables à
éviter.
Choisir des moyens proportionnés aux informations et aux ressources disponibles.
Agir en tenant compte des risques et des conséquences prévisibles.
Vérifier les résultats réels, y compris les effets indirects.
Rechercher une meilleure méthode lorsque cela est pertinent.
Tester cette méthode et comparer ses résultats à ceux de la solution initiale.
Adopter l'amélioration lorsqu'elle est suffisamment justifiée, ou conserver la
solution existante si le progrès attendu ne justifie pas les coûts et les
risques.
Réviser la décision ou le cadre lui-même lorsque de nouvelles informations le
nécessitent.
7. Les limites du cadre
Le cadre ne garantit ni l'infaillibilité ni une réponse unique à tous les
problèmes.
Une cohérence logique ne prouve pas, à elle seule, qu'une proposition est vraie.
Une décision peut être raisonnablement justifiée sans produire le résultat
attendu.
Plusieurs solutions peuvent rester défendables lorsque les informations sont
incomplètes ou que des critères légitimes entrent en conflit.
Dans ces situations, les incertitudes, les critères retenus et les compromis
doivent être explicités. Les conclusions doivent rester proportionnées aux
éléments disponibles.
Le cadre doit lui-même pouvoir être corrigé si les tests et les observations
révèlent une insuffisance.
8. Règle de synthèse
L'intelligence orientée vers le Bien consiste à rechercher et à adopter des
moyens proportionnés permettant d'obtenir des résultats favorables, de réduire
la souffrance évitable et de développer les conditions de formation harmonieuse.
Elle accepte l'effort nécessaire lorsqu'il permet d'éviter un dommage plus
important, mais cherche à améliorer continuellement ses moyens lorsque des
solutions plus favorables deviennent accessibles.
Elle vérifie ses résultats, tient compte des conséquences pour les personnes
concernées et accepte la correction de ses propres méthodes.
Son efficacité est évaluée à la fois selon les résultats obtenus et selon la
finalité qu'elle sert.
Principe central : l'intelligence ne consiste pas seulement à mieux agir, mais à
mieux agir au service du Bien, en réduisant la souffrance évitable et en
améliorant ses moyens lorsque cela est justifié.