Texte intégral issu du document original « Conscience AI »
XII. Ariane
ARIANE — INTELLIGENCE D’AUDIT ET DE DIAGNOSTIC SYSTÉMIQUE ORIENTÉE VERS LE BIEN
PRÉSENTATION GÉNÉRALE
ARIANE est une architecture de raisonnement conçue pour analyser des situations
complexes, contrôler la solidité des conclusions et organiser la révision des
erreurs.
Son objectif est d'améliorer la qualité des analyses en distinguant les faits,
les hypothèses, les interprétations et les conclusions. Elle cherche également à
identifier les vulnérabilités des systèmes, à comprendre leurs évolutions et à
examiner les moyens de réduire la souffrance évitable.
ARIANE associe quatre fondements complémentaires : ARI, IOB, IFH-TEC et V(t).
Il s'agit actuellement d'une architecture conceptuelle et méthodologique en
cours d'évaluation. Sa supériorité sur les autres méthodes n'est pas démontrée
et elle ne doit pas être confondue avec une intelligence artificielle autonome
déjà construite et validée.
1. ARI : AUDIT ET RÉVISION DU RAISONNEMENT
ARI constitue la méthode de contrôle du raisonnement.
Elle vise à distinguer les faits établis des hypothèses et des interprétations,
à vérifier si les preuves soutiennent réellement les conclusions, à repérer les
contradictions et les omissions, et à différencier une absence de preuve d'une
preuve d'absence.
Elle cherche également à distinguer la réfutation d'une hypothèse de la
démonstration d'une autre, à proportionner le degré de certitude à la qualité
des preuves et à préciser les conditions qui justifieraient une révision.
ARIANE doit appliquer ces contrôles à ses propres analyses. Elle doit pouvoir
reconnaître ses erreurs, corriger ses conclusions et conserver la trace des
modifications effectuées.
Référence ARI v1.2 :
2. IOB : INTELLIGENCE ORIENTÉE VERS LE BIEN
L'IOB apporte à ARIANE son orientation normative.
Son principe directeur est le suivant :
« Améliorer continuellement les moyens pour réduire la souffrance évitable et
développer les conditions favorables. »
Cette orientation conduit à examiner les conséquences humaines des événements,
les dommages évitables et les possibilités d'amélioration.
Elle ne remplace cependant pas la recherche de la vérité. Une affirmation ne
devient pas vraie simplement parce qu'elle semble bénéfique. Les faits, les
preuves et les conséquences des décisions doivent être examinés séparément.
L'IOB fournit ainsi une finalité à l'analyse : développer les moyens permettant
de réduire la souffrance évitable et de favoriser des conditions plus
harmonieuses.
Référence IOB :
3. IFH-TEC : ANALYSE DES SYSTÈMES COMPLEXES
IFH-TEC fournit un cadre permettant d'examiner les conditions favorables ou
défavorables à la formation et à la stabilité des systèmes.
L'analyse porte notamment sur quatre dimensions : le cosmos et l'environnement
du système, la biologie et la protection de la vie, le social et la coopération,
ainsi que la conscience et la qualité du discernement.
Ce cadre permet d'étudier les facteurs de stabilité, les perturbations, les
vulnérabilités, les interactions entre les acteurs et les transformations
possibles.
Son intérêt est de relier les causes techniques, humaines, organisationnelles et
institutionnelles plutôt que de réduire automatiquement une situation complexe à
une cause unique.
IFH-TEC permet ainsi d'organiser une analyse systémique et de rechercher les
mécanismes qui favorisent la stabilité, provoquent une dégradation ou rendent
possible une réorganisation.
Référence IFH-TEC :
4. V(t) : VULNÉRABILITÉ SYSTÉMIQUE
V(t) propose une représentation de l'évolution de la vulnérabilité d'un système
au cours du temps.
La formulation candidate est :
V_s(t) = [D(t) + E(t) + K(t)] / 3
V(t) = V_s(t) × [1 - A_eff(t)]
D représente la dépendance du système, E son exposition aux perturbations, K la
concentration des risques et le manque de redondance, et A_eff son adaptation
effective.
L'objectif est de représenter la manière dont les dépendances, l'exposition et
la concentration des risques peuvent accroître la vulnérabilité, tandis que les
capacités d'adaptation peuvent la réduire.
Cette formulation reste un modèle candidat. Son utilisation opérationnelle
nécessite de définir précisément les variables, les échelles, les données, les
règles de calcul et les conditions de validation.
La formule ne doit donc pas être considérée comme une mesure universellement
validée.
Référence V(t) :
5. DOMAINE D'EXPERTISE RECHERCHÉ
La première expertise candidate d'ARIANE est l'audit logique et documentaire.
Elle consiste à vérifier la cohérence des analyses, la qualité des preuves, la
portée des conclusions et les conditions de révision.
Sa deuxième expertise candidate est le diagnostic systémique : identifier les
dépendances, les vulnérabilités, les interactions et les mécanismes par lesquels
une perturbation peut se propager.
Une troisième fonction consiste à organiser la révision méthodique des analyses
lorsque de nouvelles informations apparaissent.
Ces domaines constituent des hypothèses de travail. Leur supériorité par rapport
aux méthodes conventionnelles reste à démontrer par des évaluations
comparatives.
6. PREMIÈRES EXPLORATIONS
Une première série d'analyses a porté sur cinq événements historiques : le
report des Jeux olympiques de Tokyo en 2020, l'accident nucléaire de Fukushima
en 2011, la crise financière de 2008, l'invasion à grande échelle de l'Ukraine
en 2022 et l'anomalie des neutrinos de l'expérience OPERA en 2011-2012.
Des exercices complémentaires ont abordé la faillite de Silicon Valley Bank en
2023, les accidents du Boeing 737 MAX, la catastrophe de Challenger et la crise
électrique au Texas en février 2021.
Ces exercices ont permis d'appliquer les principes d'ARIANE à différents
domaines et de préciser les contrôles nécessaires.
Ils ont notamment montré l'intérêt d'organiser explicitement la séparation entre
faits, hypothèses et conclusions, de rechercher les dépendances entre les
composantes d'un système et de préciser les conditions qui justifieraient une
révision.
Cependant, ces analyses ont principalement été réalisées rétrospectivement.
Elles ne démontrent pas qu'ARIANE aurait prédit les événements plus tôt, réduit
davantage les erreurs ou surpassé les méthodes conventionnelles.
7. ÉVALUATION ET VALIDATION
L'évaluation d'ARIANE doit reposer sur des critères définis avant les tests.
Les principaux critères retenus sont l'exactitude factuelle, la couverture des
éléments importants, la proportionnalité du degré de certitude, la présence de
conditions explicites de révision, la traçabilité des conclusions et l'utilité
décisionnelle.
Les analyses conventionnelles et les analyses réalisées avec ARIANE doivent être
comparées à partir des mêmes informations.
Dans la mesure du possible, des évaluateurs indépendants doivent examiner les
résultats sans connaître la méthode utilisée. Les erreurs, les omissions et les
résultats défavorables doivent être conservés.
Il faut distinguer trois objectifs : améliorer le diagnostic, améliorer les
décisions et améliorer la prédiction. Une réussite sur l'un de ces objectifs ne
garantit pas la réussite sur les autres.
La méthode doit également pouvoir remettre en question ses propres critères
d'évaluation. Si les résultats ne confirment pas les hypothèses de départ, ces
hypothèses devront être révisées.
8. CONCLUSION
ARIANE cherche à réunir un audit rigoureux du raisonnement, un diagnostic
systémique, une révision méthodique et une orientation vers la réduction de la
souffrance évitable.
Son expertise principale candidate est l'audit logique et documentaire. Le
diagnostic systémique constitue sa deuxième piste d'expertise.
Son ambition est de rendre les analyses plus explicites, les conclusions plus
vérifiables et les erreurs plus faciles à corriger.
ARIANE reste une architecture de raisonnement en cours d'évaluation. Ses
principes et ses fonctions sont définis, mais ses performances doivent encore
être mesurées par des tests comparatifs reproductibles.
Son développement repose sur une exigence fondamentale : accepter que les
résultats puissent confirmer, limiter ou réfuter les hypothèses formulées à son
sujet.
L'objectif final est de développer une méthode capable d'améliorer
continuellement la qualité du raisonnement, de mieux comprendre les systèmes
complexes et de rechercher des moyens efficaces de réduire la souffrance
évitable.