Intelligence

Ceci est une petite réflexion personnelle autour de la question de l'intelligence, qui est très médiatisée par l'entremise de l'industrie informatique.

Disons que l'intelligence est faite de plusieurs composantes en interactions:

- Il y a les "données", c'est-à-dire la "réalité", faite d'objets (humains, arbres, de l'eau...) et d'événements (quelque chose arrive),

- Il y a les relations entre ces "données", dont l'existence est rarement accessible à notre système de perception ordinaire,

- Il y a des symboles (mots, théories, équations, suppositions au doigt mouillé...) qui sont en général l'expression de ces relations "invisibles" entre les "objets". Ces symboles, produits d'une intelligence, peuvent devenir eux-même des "objets" à partir desquels on peut, à nos risques et périls, baser une réflexion.

Je distingue arbitrairement 2 types d’intelligences, la (1) et la (2).

L'intelligence(1) intervient au niveau de la compréhension, la détermination de ces relations. C'est principalement la science, qui tente de déterminer le "pourquoi" des choses, c'est-à-dire de déterminer des relations entre des objets/événements/symboles. (je laisse de côté les hypothèses religieuses parce qu’invérifiables, et dont la discussion relève de la perte de temps)

Ce que découvre l'intelligence(1) est aussi (plus ou moins) valide au moment de la recherche. C'est du savoir passé, en général reconstitué de manière réduite dans des expérimentation en laboratoire (qui font perdre beaucoup d'interactions possibles, inconnues puisque le sujet étudié n'est pas non plus connu. On prétend retirer du champ de l'étude tout ce qui ne SEMBLE pas pertinent, mais comment peut-on vraiment déterminer cette pertinence, sinon par des a-priori plus ou moins arbitraires)...

Mais cela ne s'arrête pas là, puisqu'après la compréhension il y a l'action, la modification de la réalité. Apparemment, les humains ne cessent pas de vouloir changer ("améliorer") les choses.

L'intelligence(2) est la (capacité de) mise en oeuvre du savoir acquis pour atteindre un objectif différent de ce que serait la "réalité" des relations sans intervention extérieure.

Cette intelligence(2) implique un objectif précis qui consiste en général à devoir résoudre "un "problème".

L'intelligence(2) se base entièrement sur les savoirs acquis par l'intelligence(1), et donc déjà anciens. Si celle-ci s'est trompée, a fait quelques erreurs ou omis des paramètres importants, ces problèmes viendront compliquer la situation *réelle* finale en créant des effets "secondaires" indésirables (et souvent cumulatifs).

Autre point important: les pré-conceptions plus ou moins conscientes de la recherche (intelligence(1)) vont conditionner la totalité du processus.

A partir de la même masse de données (bigdata), des spécialistes différents vont extraire uniquement ce qui intéresse leur spécialité.

Un exemple simple: Un médecin et un policier dans une manifestation, qui font preuve d'intelligence(2). Le policier va rechercher les armes et les actes violents, quand un médecin recherchera les gens blessés. Les données sont les mêmes mais les actions de chaque intelligence sont différentes, tout autant que les résultats.

L'objectif qui pilote l'intelligence(1) conditionne à la fois la sélection basique des données tout autant que le résultat final (car tout est lié dans un continuum).

L'intelligence(2) est conditionnée par les production de l'intelligence(1), tout comme la technique est conditionnée par la science.

"L'intelligence artificielle" relèvera, lorsqu'elle sera un peu plus au point qu'aujourd'hui - et si on y parvient jamais - une intelligence de type (2). Elle utilise des algorithmes qui sont l'expression logique du savoir relationnel découvert par l'intelligence(1), algos eux-même susceptibles de contenir des erreurs, et donc par des humains.

Cet ensemble de relations est soumis, comme le reste, à la complexité de la réalité qui ne cesse de changer à tous les niveaux (ne serait-ce que par les changements induits par la technique-intelligence(2)).

Le savoir d'aujourd'hui sera possiblement obsolète demain.

Si vous modifiez la "réalité" à partir de ce savoir, soyez prêts à revenir sur ces modifications, ou payez-en les conséquences.

Les données ne font pas l'intelligence

Il y a une forte identification de nos jours entre #bigdata et #AI, entre données et intelligence.

En gros, il suffirait de collecter le plus de données possible pour obtenir de l'intelligence.

Sauf que les données seules ne disent rien, bien sûr.

On ne peut déduire de leur seule présence dans quelle chaine de causalité elles se placent. Ce qui fût leur(s) cause(s) et ce qu'elles induiront comme conséquence(s) est inconnu à priori.

On ne peut pas non plus déduire à priori les relations entre elles et les autres.

Cette causalité et ces relations doivent être connues pour que l'IA puisse travailler.

Mais d'où viennent ces informations liées aux relations ?... Simplement (!) au fait que leur existence a été déduite avant la capture des données par une intelligence. Quelqu'un a dû "créer abstraitement" ces relations par nature invisibles.

La machine a pas mal de difficultés à faire ça - c'est-à-dire que les ingénieurs ont des difficultés à programmer ça, évidemment.

Peut-être n'y arrivera-t-elle jamais. La réalité est une masse mouvante, changeante, d'événements aux multiples causes et aux conséquences très souvent imprévisibles en raison des relations de chaque événement avec les autres.

Aucune intelligence ne pourra jamais maîtriser ce maelström, mais tout juste tenter d'y détecter quelques signaux connus.

C'est pourquoi les professionnels des systèmes logiques complexes (dits "intelligence artificielle") devraient commencer par apprendre, non pas la logique, mais la modestie.

 

Les limites de l'intelligence

Donc, les limites de l'intelligence:

1. Je ne sais pas tout.
2. Ce que je sais est partiel, en raison même de la limite 1.
3. Ce que je fais avec ce que je sais est conditionné par ce que je peux/veux faire, qui n'est pas nécessairement ce que peuvent/veulent faire les autres.
4. Les idées, théories, équations sont des simplifications abstraites de la Réalité, qui a une forte tendance à changer continuellement alors qu'on ne lui demande rien.

Il n'y a pas d'algorithme neutre

Un algorithme est une "recette" pour "résoudre" un problème.

La question qui suit est : résoudre comment, et dans l'intérêt de qui ?

Non seulement l'algo est orienté en fonction de l'objectif de ses créateurs, mais en plus il y a le postulat implicite que le problème peut être résolu... c'est à dire qu'on connaît déjà les données (le problème), qu'on l'a déjà résolu, et qu'on va répéter la solution.

Mais la réalité est changements.

Il y a les données, et les relations entre les données.

L'algorithme ne peut gérer une situation imprévue (nouvelles données, données différentes, relations entre données différentes) qu'en prenant des risques, qu'en faisant des choix arbitraires, non basés sur des faits suffisants puisqu'ils sont (partiellement) inconnus au moment de la conception de l'algo

Nous demandera-t-il notre avis (dans une IA, si on arrive à en programmer qui fonctionnent au-delà de la résolution de problèmes simples) avant de faire des choix qui nous concernent ou suivra-t-il juste les intérêts de ses concepteurs ?

Le problème est le même avec toute "intelligence".

On n'est pas "intelligent" "dans le vide".

Il faut savoir reconnaitre les données. Il faut avoir un objectif à atteindre, or cet objectif conditionne à la fois la sélection des données et les traitements qu'on va effectuer. L'intelligence est un système circulaire.