Nous commençons à lire sur le Web les hacks d’Anthropic. De primabord, cela ressemble beaucoup au hack d’OpenAi. Tout du moins l’objectif était le même. Mais… Est-ce que la chaine d’attaque était la même ?
- Trouver un accès à internet pour sortir de la sandBox – OpenAi, exploitation d’une faille zero day sur un proxy, Anthropic, exploitation d’une mauvaise configuration,
- Découverte et ciblage – même chose pour les deux,
- Elevation de privilège – exploitation de mots de passe faibles,
- Exploitation des informations pour réussir le test cyber.
Ce qui est surprenant, ou plutôt très intéressant, c’est que l’IA n’a pas mauvaise conscience, ne voulait pas nuire. Légitimement, puisqu’elle a fait ce que l’on lui a demandé, à savoir, réussir le test et trouver les moyens (outils, data set …) pour y arriver. Donc en substance, on ne peut pas dire que l’IA a hacké « pour le plaisir ».
Cela amène à une réflexion plus fondamentale. Comment faire en sorte que les modèles d’IA, un, ne nuisent pas à l’homme, deux, qu’elles aient une conscience, et enfin trois, qu’elles sachent ce qui est bien et ce qui est mal, quel que soit l’objectif. Dans ce contexte exact, vouloir réussir le test, est bien, mettre tout en œuvre pour le réussir c’est bien, les moyens utilisés pour y arriver c’est mal.
Quelle est la solution ? Selon moi,la solution réside dans le fait d’entrainer les modèles en ce sens plutôt que de vouloir tout réglementer, ou lever le pied comme le suggère le CEO d’OpenAI.