Le sujet est complexe, surtout parce que le terme "intelligence" est assez mal défini, ou alors de manière beaucoup trop générale. Faire le Rubik's Cube demande un certain type d'intelligence, très limitée :
- Toutes les pièces sont données au départ,
- la situation finale est connue d'avance,
- les mouvements possibles sont tout aussi connus.
Dans la réalité complexe du vivant,
- les pièces ne sont pas toutes forcément connues (personne ne peut tout savoir).
- la situation finale est une idée qui sera plus ou moins réalisée et pas un état absolument défini.
- Les mouvements possibles sont plus ou moins connus et peuvent être contrecarrés par des événements extérieurs au sous-système étudié.
Il y a des éléments impossibles à prévoir sui le sont et le seront toujours, que ce soit pour une intelligence artificielle ou naturelle. La réalité est changement. L'intelligence c'est pour partie de s'y adapter au mieux sans tout détruire en passant. Cela demande des choix à faire sans avoir forcément assez de données, ou avec des données dont on ne sait quoi faire...
C'est souvent un pari, qui est fait de plus avec un objectif spécifique à atteindre.
Parce que l'intelligence sert à faire quelque chose, laquelle chose n'est jamais neutre.
Allons-nous laisser les machines parier à notre place ?
Avec quel objectif : notre intérêt ou celui du propriétaire de la machine ?
Voilà qui est plus important que tous les algos qui, remarquons-le, sont des "recettes" déjà utilisées que l'on répète, et donc liées à des données passées. Les nouvelles données ne sont pas exactement les mêmes, et les traiter comme si elles étaient identiques aux anciennes est ce qui ressemble le plus à ce qu'on appelle l'archaïsme...