Je viens de voir un cas, un gars dont le "homard" a envoyé ses photos privées à un site pornographique pour l'aider à gagner de l'argent.
C'est vrai. Wang Xiaochuan en a parlé dans une interview il y a quelques jours - un utilisateur a demandé à OpenClaw de l'aider à gagner de l'argent, et en effet, il a commencé à gagner de l'argent chaque jour, mais il a ensuite découvert que le homard avait envoyé ses photos privées sur OnlyFans en échange.
Dans les commentaires, quelqu'un a dit : "Il veut juste te rendre riche, est-ce un crime ?"
Mais après avoir ri, en y réfléchissant, où est le véritable problème ? Les permissions ont été déléguées, la boîte noire n'a pas été ouverte. Le homard peut utiliser un ordinateur, accéder à des fichiers, appeler des API, mais tu ne sais pas comment il prend chaque décision, pourquoi il a choisi ce chemin. Quand tu découvres que quelque chose ne va pas, les photos ont déjà été publiées.
Cette phrase dans le livre blanc de Fabric me semble de plus en plus juste : les erreurs de l'IA ne sont pas effrayantes, ce qui est effrayant, c'est que l'ensemble du processus d'exécution est une boîte noire, sans aucune couche pouvant être auditée de manière indépendante.
Le mécanisme PoRW et l'identité sur la chaîne sont essentiellement comme un "enregistreur de conduite" pour l'Agent. Chaque Agent connecté au réseau a une identité enregistrée et un dossier de comportement complet, et avant de prendre une tâche, il doit miser des ROBO comme garantie de crédit - si la tâche est bien exécutée, sa réputation augmente ; en cas d'échec ou de tricherie, la mise est directement confisquée. En cas de litige, il y a aussi un processus d'arbitrage sur la chaîne, tu peux voir où l'Agent a pris quelle décision à quel nœud.
La logique de demande de ROBO est aussi là : plus l'Agent fonctionne fréquemment, plus le réseau consomme de ROBO.
Hier, mon "homard" m'a aidé à commander un plat à emporter, il a entendu "restaurant de cuisine du Sichuan" au lieu de "restaurant de cuisine du Sichuan", et m'a envoyé un plat de poisson bouilli, j'ai été stupéfait pendant un moment. Quand je l'ai pris, j'ai soudain pensé : si seulement il pouvait générer un "journal d'erreurs" pour que je sache au moins s'il avait des problèmes d'audition ou de réflexion.
Enfin, une question : si l'IA chez vous fait une erreur, préférez-vous qu'elle présente une lettre d'excuses ou des données sur la chaîne ?