3 avril 2020 | International, Aérospatial

A la recherche de l'IA hybride

Vice-président recherche, technologie, innovation du groupe Thales, David Sadek intervenait jeudi 24 octobre à Toulouse au Forum Innovation IA, un événement organisé par Sciences et Avenir pour le groupe Challenges.

Explicabilité, validité, intégrité... " Pour une IA de confiance " : c'était l'intitulé de l'intervention de David Sadek, le vice-président recherche, technologie, innovation du groupe Thales. "Nous aimerions tous pouvoir toujours faire confiance à tous nos outils technologiques. Mais en réalité tout dépend du contexte. Dans le cas des outils reposant sur l'IA, si Netflix me recommande un film que je trouve détestable, ce n'est pas bien grave, on s'en remettra. Mais dans le cas des systèmes critiques tels que l'on en conçoit régulièrement chez Thales pour des applications défense, espace et aéronautique, la question de la confiance est primordiale".

David Sadek énonce trois impératifs, qui sont autant d'axes stratégiques de la feuille de route IA chez Thales, pour aller vers cette " IA de confiance ". Pour qu'une application de l'IA soi digne de confiance, il faut d'abord qu'elle soit capable d'expliquer. Si elle se contente de proposer ou décider sans être capable de dire pourquoi et comment elle est arrivée à cette proposition ou décision, la défiance s'installera. Elle doit donc être capable de répondre à la question : " Pourquoi ? ".

"Si par exemple un copilote IA recommande au pilote humain de virer à 45°, et que ce dernier demande " pourquoi ", le copilote doit pouvoir répondre par exemple : " parce qu'il y a un problème météo (ou une menace ...) droit devant ". Il ne s'agit pas de simplement tracer la décision, de pouvoir indiquer à ses concepteurs quels neurones, quelles couches de neurones, ont fait pencher la balance dans un sens ou un autre, mais bien d'expliquer dans une langue compréhensible immédiatement par le pilote". Ce qui indique qu'à l'aspect intelligence artificielle s'ajoute celui de " l'interaction homme-machine ".

IA connexionniste et IA symbolique

Cela implique, en restant sur cet exemple, une capacité de compréhension et de génération du langage naturel. Mieux, le pilote appréciera de pouvoir dialoguer dans un langage mixte, reposant sur l'oral et le geste (pour désigner un point sur une carte, etc.). Deuxième impératif selon David Sadek : il faut pouvoir démontrer la validité d'une application de l'IA. C'est-à-dire sa conformité aux spécifications. "Le système développé doit faire tout ce l'on attend de lui et rien que ce que l'on attend de lui. Ce qui suppose que l'on sache spécifier très proprement". On connait l'exemple d'un jeu de bataille navale, un " serious game " destiné à former des officiers de la marine, qui gagnait à tous les coups, parce qu'il sacrifiait systématiquement chaque vaisseau touché, pour ne pas ralentir la flotte.

Aucune règle ne prévoyait, n'interdisait ce cas de figure, passablement inacceptable. Troisième impératif pour une " IA de confiance ", selon David Sadek, la responsabilité des systèmes reposant sur l'IA. C'est-à-dire leur conformité aux cadres légaux, réglementaires et moraux. On connait le tendon d'Achille des réseaux de neurones : ce sont des boîtes noires, on voit ce qui entre et ce qui sort, mais on ne sait pas (trop) ce qu'il se passe à l'intérieur. C'est pourquoi David Sadek insiste sur le fait qu'il faut s'intéresser aussi à " l'autre IA ", l'IA symbolique, celle qui repose sur des règles et des raisonnements et qui s'oppose à l'IA connexionniste des réseaux de neurones. Cette IA symbolique, qui fait moins les gros titres, qui n'a pas connu les progrès fulgurants de l'IA des réseaux de neurones, est plus à même de répondre à ces trois exigences : expliquer, valider, responsabilité. C'est pourquoi la réponse à cette triple exigence passe sans doute, entre autres, par " l'IA hybride ", une IA tirant parti de ces deux branches de l'intelligence artificielle.

Par Pierre Vandeginste

https://www.sciencesetavenir.fr/high-tech/intelligence-artificielle/ia-pvdg_138526

Sur le même sujet

  • France, Germany kick off race for ‘quantum leaps’ in aircraft and tank tech

    20 juin 2018 | International, Aérospatial, Terrestre

    France, Germany kick off race for ‘quantum leaps’ in aircraft and tank tech

    Sebastian Sprenger COLOGNE, Germany ― The defense ministers of Germany and France have inked new agreements for the joint development of a new combat aircraft and a next-generation tank, key programs that could shape the European defense landscape for decades to come. Ursula von der Leyen and Florence Parly signed the letters of intent on the sidelines of a bilateral Cabinet meeting in Berlin on Tuesday. The documents are meant to provide the necessary guidance to set up a program of record for the Future Combat Air System and the Main Ground Combat System. A defense spokesman in Berlin told Defense News the agreement calls for the examination of potential management structures, for example through OCCAR, a European collective for joint weapons acquisition and management. The core members of OCCAR include France, Germany, the United Kingdom, Italy, Spain and Belgium, though other nations can partake in individual projects. By: Sebastian Sprenger According to a German Defence Ministry statement, the signed documents establish the two governments' “left and right boundaries” for the programs. “Industry is now requested to fill the space,” the statement reads. “Both projects ... stand for technological quantum leaps that shall be approached together while integrating the strengths of each nation's industries.” Led by France, the Future Combat Air System aims to replace the Eurofighter Typhoon in Germany and the Rafale aircraft in France. The Main Ground Combat System, helmed by Berlin, will succeed the German Leopard 2 tanks ― used widely in Europe and beyond ― and the French Leclerc. The new aircraft are envisioned to hit the skies by 2040, while the the new tanks are pegged to roll in the mid-2030s. Connected to the tank effort is also an artillery replacement plan, named Common Indirect Fire System. While both projects initially are exclusively German and French, partner countries will have an opportunity to join once a “strong foundation” is established by the two lead nations, the German Defence Ministry said. KNDS, a joint venture by German tank-maker Krauss-Maffei Wegmann and France's Nexter, unveiled a European Main Battle Tank as an interim step toward the future tank program at the Eurosatory defense trade show in Paris last week. The next-generation combat aircraft project, which officials said will include a sizable unmanned component, is slated to enter a concept-study phase by the end of the year, according to the German ministry. Both efforts are still some time away from formulating concrete military requirements, to which companies eventually can tailor their offers. That cooperation process is expected to be thornier than the agreement on political pronouncements so far that paint Germany and France as the motor of Europe's new defense ambitions. Absent from Tuesday's joint statement was any mention of cooperative work on a new air-to-ground missile and modernization of the Tiger attack helicopter to a Mark 3 version. The two ministers had announced at the ILA Berlin air show in April that the two countries would cooperate on the airborne weapon and the midlife upgrade of the combat helicopter. A common weapon for both French and German Tiger helicopters would cut down integration costs for the missiles. https://www.defensenews.com/global/europe/2018/06/19/france-germany-kick-off-race-for-quantum-leaps-in-aircraft-and-tank-tech/

  • Army using simulations to work out networking kinks ahead of Project Convergence 21

    13 octobre 2021 | International, Terrestre

    Army using simulations to work out networking kinks ahead of Project Convergence 21

    The Army's big lesson from Project Convergence 20 was that it's harder to network things together than the service realized.

  • NATO releases first ever quantum strategy

    17 janvier 2024 | International, Terrestre, C4ISR

    NATO releases first ever quantum strategy

    Quantum technologies are getting closer to revolutionizing the world of innovation and can be game-changers for security, including modern warfare. Ensuring that the Alliance is ''quantum-ready'' is the aim of NATO’s first-ever quantum strategy that was approved by NATO Foreign Ministers on 28 November. On Wednesday (17 January 2024), NATO releases a summary of the strategy.

Toutes les nouvelles