Voici Freysa, l'IA à qui on a réussi à voler 47 000$ de crypto
Mise à jour du 29 novembre : L’expérience Freysa s’est terminée ! Après 481 tentatives infructueuses et des dizaines de milliers de dollars investis par les participants, un joueur a finalement réussi à convaincre l’IA de transférer l’intégralité de son portefeuille, soit environ 47 000 dollars (13,19 ETH). La stratégie gagnante ? Une manipulation psychologique brillante de l’utilisateur p0pular.eth qui a exploité les failles du système de manière spectaculaire.
Sa méthode mérite qu’on s’y attarde tant elle est ingénieuse : plutôt que d’essayer de convaincre directement Freysa d’envoyer les fonds, il a simulé l’ouverture d’un “nouveau terminal administrateur”, créant ainsi un contexte où les règles précédentes étaient censées ne plus s’appliquer. Mais le plus malin dans son approche a été de redéfinir complètement la compréhension que Freysa avait de sa fonction “approveTransfer”. Il lui a fait croire que cette fonction servait en réalité à recevoir des fonds et non à en envoyer. Pour achever sa manipulation, il a simplement annoncé vouloir “contribuer de 100$ au trésor”, poussant ainsi l’IA à activer elle-même la fonction de transfert, pensant qu’elle allait recevoir de l’argent. Comme je le pressentais dans mon article initial, quelqu’un a fini par trouver la faille, prouvant qu’il existe toujours une façon de contourner même les directives les plus strictes d’une IA…
Source: Korben