Un agent d'IA réellement compétent a besoin à la fois d'intelligence et d'une réelle capacité d'action-capacité d'action-il doit comprendre en profondeur ce que veut l'utilisateur, puis faire avancer les choses. C'est ainsi que Yuan Yuan, doyen de l'Institut de recherche Alibaba, a décrit la forme idéale des agents d'IA lors d'un récent séminaire sur « la sécurité et le développement du comportement des agents d'IA ».
Elle a souligné que même si les agents d'IA sont très prometteurs pour transformer la technologie de l'IA en argent réel et améliorer considérablement l'expérience utilisateur, leur déploiement ne devrait pas bouleverser les règles, la gouvernance ou les écosystèmes commerciaux existants. Au lieu de cela, tout devrait se dérouler de manière sûre et contrôlable, avec une collaboration étroite au sein du secteur afin que les fabricants de téléphones et les développeurs d'applications puissent tous deux partager les avantages des modèles avancés.
Au cours de l'année écoulée, la grande question du marché a été : « L'IA peut-elle vraiment gérer des tâches à notre place ? Nous avons vu émerger différentes approches.
Certains produits tentent de « prendre en charge » les opérations du téléphone en comprenant ce qui est à l'écran et en imitant les tapotements et les glissements humains pour effectuer des tâches telles que monter des vidéos, réserver des billets ou commander de la nourriture sur différentes applications. Ceux-ci sont généralement appelésAgents d'interface graphique(abréviation de Graphical User Interface Agents).
Techniquement, ils fonctionnent en demandant à l'IA de « voir » l'écran, de le comprendre, puis de simuler des clics et des gestes. Mais cela soulève immédiatement un certain nombre de questions délicates : qui donne la permission ? Qui est responsable si ça rate ? À quels services peut-il accéder ? Et qui le contrôle ?
Lors du séminaire, les experts ont souligné que cette-approche basée sur l'écran présente une réelle valeur à court terme- : elle permet aux agents d'IA de se lancer dans une utilisation quotidienne sans imposer de changements majeurs aux applications existantes. Mais à long terme, il a intégré-des limites concernant la fiabilité, la vitesse et la manière dont il peut être gouverné. Beaucoup y voient davantage un pont temporaire qu’une fin de partie.
Jiao Haitao, professeur à l'Université chinoise de sciences politiques et de droit, a fait valoir que les autorisations accordées aux agents d'IA devraient être traitées scène par scène. Les actions critiques nécessitent une seconde confirmation de la part de l'utilisateur, et les éléments impliquant des attributs personnels, des décisions subjectives ou des interactions sociales ne doivent pas du tout être délégués. Il a souligné les défis liés aux doubles-règles d'autorisation-tous les scénarios ne devraient pas s'appuyer uniquement sur une-plate-forme tierce-et a suggéré que l'industrie travaille ensemble par le biais de négociations et de normes pour régler ce problème progressivement.
Les fabricants de téléphones explorent activement leurs propres voies pour les agents IA.
Lors d'un récent point de presse, Jiang Yuchen, directeur de la R&D sur les produits intelligents chez OPPO pour ColorOS, a déclaré aux journalistes que des produits comme le téléphone Doubao ont eu un impact positif sur l'industrie et l'écosystème en faisant avancer les choses. Mais elle a été claire : "Ce n'est pas la forme finale d'un téléphone IA-, c'est toujours essentiellement une méthode d'exploitation des anciennes interfaces GUI."
Pour OPPO, le choix entre les approches de style GUI-n'est pas une question d'idéologie-c'est avant tout un problème d'ingénierie et d'échelle. Jiang a expliqué que quelque chose comme Doubao peut se permettre d'être plus agressif en tant que prototype technique, mais que les grands fabricants de téléphones font face à des bases d'utilisateurs massives. "Si vous lancez une fonctionnalité et que le lendemain, la plupart des services ne fonctionnent plus correctement, c'est un incident de qualité pour nous-nous ne pouvons pas l'accepter." À cette échelle, toute capacité instable-au niveau du système est rapidement amplifiée.
Selon elle, les agents basés sur les-opérations-sur écran sont "en quelque sorte une étape intermédiaire". La voie à suivre s’orientera davantage versCollaboration A2A (agent-à-agent), où les agents IA se parlent directement et travaillent ensemble.
Elle a souligné que dans cette évolution, ce qui compte vraiment pour les fabricants de téléphones n'est pas la taille ou les paramètres du modèle-c'est leur compréhension approfondie et à long terme-des utilisateurs. "Nous ne pensons pas que le grand modèle soit l'âme du téléphone", a déclaré Jiang. "Nous pensons que la "mémoire" est l'âme. Une fois que votre téléphone vous comprend vraiment, il est très difficile de passer à autre chose."
Lors du séminaire, plusieurs experts ont convenu que le véritable défi pour les agents d'IA n'est pas seulement "sont-ils capables de faire le travail ?"-il s'agit plutôt de définir des limites claires entre ce qu'ils peuvent faire et comment ils sont gérés.
Yuan Yuan a noté que la vague actuelle d'interfaces graphiques a créé un « effet poisson-chat » sain, bouleversant et dynamisant l'ensemble de l'industrie. Mais elle a exhorté le secteur chinois de l’IA à ne pas rester bloqué sur la voie de l’interface graphique graphique. Au lieu de cela, construisez-le pour trouver de meilleurs itinéraires qui équilibrent sécurité et progrès. Elle a cité l'approche d'Apple comme un bon exemple : elle met en place une collaboration ouverte basée sur une API-entre les agents et les applications, tout en utilisant la reconnaissance de l'écran pour maintenir les limites de sécurité intactes et transmettre avec précision l'intention de l'utilisateur aux applications, les rendant ainsi plus intelligentes dans l'exécution des commandes.
Wang Yue, directeur adjoint de l'Institut des systèmes d'information du département d'ingénierie électronique de l'université Tsinghua, considère les agents d'IA comme un tournant majeur.-Les systèmes d'IA commencent à interagir directement avec le monde extérieur. Cela ne changera pas seulement la façon dont les systèmes d'information sont construits ; cela pourrait également remodeler les opérations économiques. Il a averti qu'une innovation véritablement disruptive risque d'affaiblir la gérabilité du système et d'éroder les fondements de la confiance. Nous avons donc besoin de meilleurs mécanismes d'autorisation et de freins et contrepoids A2A, pour finalement évoluer vers des systèmes de crédibilité axés sur le marché et la concurrence.
Dans l'ensemble, la discussion ne porte plus sur la question de savoir si l'IA peut agir sur les téléphones, mais plutôt sur la manière de le faire de manière responsable et durable.-La collaboration de type A2A-entre agents semble être un moyen prometteur d'y parvenir sans tout casser.
