Openclaw : l'ia open source inquiète la chine, malgré ses promesses
Un logiciel d'intelligence artificielle, OpenClaw, créé par l'ingénieur autrichien Peter Steinberger, suscite l'enthousiasme en chine. Rapidement adopté, il est même salué par Jensen Huang, PDG de Nvidia, comme l'« prochain ChatGPT ». Mais derrière cette ascension fulgurante se cachent des failles de sécurité préoccupantes, déclenchant une vague d'alertes de la part des autorités chinoises.
Openclaw : un outil puissant, mais risqué ?
OpenClaw se distingue par son approche open source, un contraste marqué avec les modèles propriétaires comme ceux d'OpenAI ou d'Anthropic. Cette ouverture permet aux utilisateurs de modifier le code et d'adapter l'IA à leurs besoins spécifiques. Contrairement à d'autres assistants d'IA qui traitent les données en cloud, OpenClaw fonctionne localement, ce qui le rend attractif pour la confidentialité. Il s'intègre facilement aux plateformes de messagerie populaires comme WhatsApp et Telegram, permettant aux utilisateurs de lui donner des instructions en langage naturel. La popularité de l'outil est telle que des milliers de personnes font la queue pour le télécharger en chine, stimulée par des subventions gouvernementales atteignant jusqu'à 2 millions de yuans pour des projets basés sur OpenClaw.
Mais l'engouement ne masque pas les risques. Une vulnérabilité critique, nommée ClawJacked, a permis aux hackers de prendre le contrôle des agents OpenClaw en incitant les utilisateurs à visiter des sites web malveillants. Bien que corrigée, plus de 40 000 autres failles ont été découvertes. Les agences gouvernementales chinoises ont émis des avertissements, soulignant les risques de vol de données et d'attaques par injection de messages. Le modèle décentralisé d'OpenClaw, qui place la responsabilité des mesures de sécurité entre les mains des utilisateurs, pose également des questions de gouvernance et de responsabilité.
Les préoccupations se concentrent particulièrement sur l'utilisation potentielle d'OpenClaw par les institutions financières et les agences gouvernementales. Les autorités chinoises ont récemment mis en garde ces entités contre son déploiement. Pourtant, les principaux fournisseurs de cloud chinois, tels que Tencent, Alibaba et Baidu, se sont empressés d'intégrer OpenClaw à leurs plateformes. Cette adoption rapide alimente un débat sur la nécessité d'une réglementation plus stricte dans le domaine des intelligences artificielles.
Peter Steinberger lui-même reconnaît que le logiciel n'est pas encore parfait, mais qu’il progresse grâce à la contribution de sa communauté. Il insiste sur le fait que l'outil est destiné à des utilisateurs ayant des compétences techniques et conscients des risques inhérents aux LLM. Ce qui est certain, c'est que l'essor d'OpenClaw, malgré ses défauts, illustre la vitesse à laquelle évolue le paysage de l'IA et les défis qui en découlent. La tension entre innovation et sécurité risque de rester au cœur de cette révolution technologique, et la question de la régulation demeure ouverte.