{"id":7018,"date":"2021-04-06T16:41:52","date_gmt":"2021-04-06T16:41:52","guid":{"rendered":"https:\/\/www.akumenia.com\/?p=7018"},"modified":"2021-07-07T10:38:56","modified_gmt":"2021-07-07T10:38:56","slug":"droit-de-lhomme-face-a-ia-ou-droit-ias-face-aux-hommes","status":"publish","type":"post","link":"https:\/\/www.akumenia.com\/en\/2021\/04\/06\/droit-de-lhomme-face-a-ia-ou-droit-ias-face-aux-hommes\/","title":{"rendered":"DROIT DE L\u2019HOMME FACE \u00c0 L\u2019IA OU DROITS DES IAs FACE AUX HOMMES?"},"content":{"rendered":"
<\/div><\/div>
<\/div><\/div>
\n\t
<\/div>\n\t\t
\n\t\t\t
\n\t\t\t\t

\n

PR\u00c9AMBULE<\/b><\/h3>\n

Droit de l\u2019Homme face \u00e0 l\u2019IA ou droits des IAs face aux Hommes?<\/p>\n<\/h2><\/div>

<\/div>\r\n
\r\n\t
\r\n\t\t

U <\/span>ne r\u00e9flexion sur l\u2019IA et l\u2019Ethique n\u00e9cessite, pour qu\u2019elle soit f\u00e9conde, un premier temps de cat\u00e9gorisation conceptuelle et de d\u00e9finitions sans lesquels toute r\u00e9flexion serait inaudible par absence de partage d\u2019un r\u00e9f\u00e9rentiel commun de concepts cl\u00e9s.<\/strong><\/p>\n

Nous entendons dans cette introduction distinguer trois cat\u00e9gories conceptuelles distinctes et positionner le r\u00f4le de l\u2019Homme au regard de ces nouvelles technologies et m\u00e9thodologies de traitement de la donn\u00e9e mais surtout de l\u2019activation des r\u00e9sultats desdites IA en actions. En effet, toute Intelligence Artificielle, quand bien m\u00eame il s\u2019agit d\u2019Intelligence Artificielle dite \u00ab\u00a0forte\u00a0\u00bb, hypoth\u00e9tique \u00e0 ce stade, n\u2019est que le fruit d\u2019un travail humain dont l\u2019activation demeure une d\u00e9cision humaine, m\u00eame quand il s\u2019agit d\u2019une activation automatis\u00e9e.<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\r\n

\r\n\t
\r\n\t\t

Nous utiliseront donc les d\u00e9finitions suivantes comme fil rouge au sein de cette r\u00e9flexion tout en d\u00e9sinstallant certains mythes contemporains :<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\n\t\t\t<\/div> \n\t\t<\/div>\n\t<\/div> \n<\/div><\/div>\n\t\t

<\/div><\/div>
<\/div><\/div>
\n\t
<\/div>\n\t\t
\n\t\t\t
\n\t\t\t\t
Intelligence Artificielle<\/strong><\/em><\/u><\/h5> <\/div> <\/div><\/div>\r\n
\r\n\t
\r\n\t\t

Il n\u2019existe pas de discipline pr\u00e9cise correspondant au terme Intelligence Artificielle. L\u2019unique utilit\u00e9 de ce terme consiste \u00e0 d\u00e9crire une cat\u00e9gorie \u00e0 la crois\u00e9e de trois sciences : une science fondamentale, les Math\u00e9matiques, garante de la Raison algorithmique, une science appliqu\u00e9e, l\u2019informatique, utilis\u00e9e comme moyen de l\u2019Intelligence Artificielle et non pas comme finalit\u00e9 en soi; et une science \u00e9conomique ou manag\u00e9riale, g\u00e9n\u00e9ralement finalit\u00e9 de l\u2019application de l\u2019Intelligence Artificielle. N\u00e9anmoins, la valeur mercatique du terme mais surtout le mythe d\u2019une Intelligence Artificielle sup\u00e9rieure \u00e0 celle de l\u2019Homme, que nous pr\u00e9f\u00e9rons fermement nier d\u00e8s cette introduction, nous impose de pr\u00e9f\u00e9rer le terme de <\/i>science des donn\u00e9es<\/i><\/b>. Science des donn\u00e9es ou Data Science est donc cette discipline \u00e0 la crois\u00e9e des math\u00e9matiques, de l\u2019informatique et des sciences \u00e9conomiques dont la finalit\u00e9 est de transformer des donn\u00e9es brutes en information et connaissances direct- <\/i>intelligibles par l\u2019Homme et activable, c\u2019est-\u00e0-dire transformables en actions humaines. Nous reviendrons un peu plus sur ce qui distingue la science des donn\u00e9es des approches informatiques traditionnelles et les risques encourus.<\/i><\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n

Big Data<\/strong><\/em><\/u><\/h5> <\/div> <\/div><\/div>\r\n
\r\n\t
\r\n\t\t

Il n\u2019existe pas technologie identifi\u00e9e et nomm\u00e9e \u00ab le Big Data \u00bb, mais il existe un ensemble de <\/i>Technologies de Traitement <\/i><\/b>D<\/i><\/b>istribu\u00e9<\/i><\/b> des Donn\u00e9es <\/i><\/b>ayant d\u00e9mocratis\u00e9 depuis l\u2019av\u00e8nement de <\/i>Map<\/i>–<\/i>Reduce<\/i> en 2004 puis de SPARK en 2008, l\u2019acc\u00e8s \u00e0 des capacit\u00e9s de calculs ph\u00e9nom\u00e9nales \u00e0 des entreprises et organisations qui historiquement, ne pouvaient <\/i>disposer<\/i> d\u2019une telle capacit\u00e9. Autrement dit, si les calculs s\u00e9quentiels\u00a0<\/i>n\u00e9cessitaient\u00a0\u00e0 l\u2019\u00e9poque des supercalculateurs que seuls une minorit\u00e9 d\u2019acteurs internationaux pouvaient financi\u00e8rement se <\/i>permettre <\/i>aujourd\u2019hui, les traitements sont parall\u00e9lis\u00e9s sur des machines distinctes de petites tailles en m\u00eame temps et sur des sous jeux de donn\u00e9es et sous probl\u00e9matiques algorithmiques. Ces paradigmes ont pu diviser les temps de calcul par des facteurs 1000 \u00e0 iso capacit\u00e9 physiques (nombre de machines) et de facto les co\u00fbts associ\u00e9s. En conclusion, les technologies de calculs et stockage distribu\u00e9s de la donn\u00e9e, qui sont les moyens de l\u2019application de la science des donn\u00e9es \u00e0 une large \u00e9chelle, on permit un acc\u00e8s ais\u00e9 \u00e0 tous des traitements historiquement r\u00e9serv\u00e9s \u00e0 une minorit\u00e9.<\/i><\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n

Automatisation des traitements ELT et robotique<\/strong><\/em><\/u><\/h5> <\/div> <\/div><\/div>\r\n
\r\n\t
\r\n\t\t

Ces deux aspects sont moins connus du grand public alors qu\u2019ils repr\u00e9sentent le plus gros gisement de risques \u00e9thiques. Historiquement, les syst\u00e8mes de gestion de bases de donn\u00e9es utilisaient un paradigme ETL (Extraire, Transformer, <\/i>Load ou Charger). Or aujourd\u2019hui, les deux \u00e9l\u00e9ments pr\u00e9alablement d\u00e9finis combin\u00e9s permettent un paradigme ELT voir LET. Ceci signifie que compte tenu des co\u00fbts r\u00e9duits de stockage et de calcul, une entreprise ing\u00e8re et conserve les donn\u00e9es avant de l\u2019utiliser mais peut aussi se permettre une automatisation de bout-en-bout <\/i>et parfois en temps r\u00e9el du calcul, de l\u2019extraction des r\u00e9sultats et de leur transformation en action \u00e9galement d\u00e9clench\u00e9e de mani\u00e8re automatique. Autrement dit, le monde de la robotique et des sciences de donn\u00e9es embarqu\u00e9es d\u2019une part se veut potentiellement plus autonome mais plus g\u00e9n\u00e9ralement, la donn\u00e9e acquiert une valeur op\u00e9rationnelle capable d\u2019ex\u00e9cuter une action (marketing, financi\u00e8re, contractuelle, m\u00e9dicale, juridique etc.) en substitution de l\u2019homme.<\/i><\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\n\t\t\t<\/div> \n\t\t<\/div>\n\t<\/div> \n<\/div><\/div>\n\t\t

<\/div><\/div>
<\/div><\/div>
\n\t
<\/div>\n\t\t
\n\t\t\t
\n\t\t\t\t
\n

“Qui est le maitre \u00e0 bord? L\u2019Homme ou la Machine? “<\/strong><\/h3>\n<\/div>\n\t\t\t<\/div> \n\t\t<\/div>\n\t<\/div> \n<\/div><\/div>\n\t\t
<\/div><\/div>
<\/div><\/div>
\n\t
<\/div>\n\t\t
\n\t\t\t
\n\t\t\t\t\r\n
\r\n\t
\r\n\t\t

A ce stade il apparait donc que ces trois concepts, tels que d\u00e9finis et une fois combin\u00e9s, peuvent donner lieu \u00e0 des cas d\u2019usages dont l\u2019ex\u00e9cution peut-\u00eatre autonome, massive et algorithmique. <\/b>Et c\u2019est de ces trois \u00e9l\u00e9ments que naissent les risques li\u00e9s \u00e0 l\u2019Intelligence Artificielle si l\u2019on accepte, pour simplification du propos, d\u2019utiliser le terme comme \u00e9tant descriptif de cas d\u2019usages des trois technologies d\u00e9finies.<\/p>\n

C\u2019est donc dans ce contexte qu\u2019une question fondamentale se pose :
\npour chacune des cat\u00e9gories conceptuelles identifi\u00e9es, qui est le maitre \u00e0 bord? L\u2019Homme<\/strong> ou la Machine<\/strong>? Intuitivement, nous serions tent\u00e9s de r\u00e9pondre Machine, vue les progr\u00e8s des voitures autonomes, des algorithmes de profiling des r\u00e9seaux sociaux ou autres g\u00e9ants du num\u00e9rique par exemple. Mais avec plus de recul, un point simple mais extr\u00eamement structurant s\u2019exprime : l\u2019Homme programme les Machines.<\/strong><\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n

<\/div> <\/div>
\n\t
<\/div>\n\t\t
\n\t\t
\n\t\t\t\r\n
\r\n\t
\r\n\t\t

La science des donn\u00e9es utilise l\u2019apprentissage automatique <\/b>(Machine Learning), consistant \u00e0 universalliser une Machine pour lui permettre d\u2019apprendre sur n\u2019importe quel type de donn\u00e9es pour r\u00e9pondre \u00e0 des probl\u00e9matiques de classification, segmentation ou de pr\u00e9vision en reconnaissant des situations qu\u2019elle a pr\u00e9alablement identifi\u00e9 lors de l\u2019apprentissage. Mais cet apprentissage est programm\u00e9 par l\u2019homme, avec des donn\u00e9es d\u2019apprentissage s\u00e9lectionn\u00e9es par l\u2019homme, labellis\u00e9e par l\u2019homme dans le cadre du Machine Learning dit supervis\u00e9. Ce qui distingue donc cette discipline d\u2019une analyse informatique traditionnelle, c\u2019est la capacit\u00e9s des sciences de la donn\u00e9es \u00e0 avoir une puissance combinatoire et des capacit\u00e9s d\u2019apprentissage infiniment plus rapide que celle d\u2019un \u00eatre humain mais toujours sur des probl\u00e9matiques simples.<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\r\n

\r\n\t
\r\n\t\t

De fait, un mod\u00e8le de science des donn\u00e9es de d\u00e9tection de fraude \u00e0 titre d\u2019exemple ne fera absolument rien de plus que ce qu\u2019un humain est capable de faire. Il est juste apte \u00e0 le faire en quelques millisecondes l\u00e0 o\u00f9 il faudrait plusieurs jours \u00e0 un humain pour r\u00e9aliser une analyse similaire sur un jeu de donn\u00e9es massif.<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\r\n

\r\n\t
\r\n\t\t

Le constat est identique concernant le calcul et le stockage distribu\u00e9s : le stockage et les traitements massifs des donn\u00e9es, o\u00f9 l\u2019application des sciences de la donn\u00e9es \u00e0 l\u2019\u00e9chelle massive et int\u00e9grant de plus en plus de variables est d\u00e9cid\u00e9 par l\u2019Homme. Les Big Data en soit ne feront rien de plus que ce qu\u2019un registre papier est capable de faire. Elles sont juste capables de stocker et virtuellement et de traiter massivement des milliards d\u2019observations l\u00e0 o\u00f9 il faudrait des kilom\u00e8tres de papiers et des tonnes d\u2019encre sur un registre.<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\r\n

\r\n\t
\r\n\t\t

Demeure alors l\u2019automatisation des traitement LET et la robotique. <\/b>Ici, deux complexit\u00e9s additionnelles se cr\u00e9ent.<\/p>\n

    \n
  1. \n
      \n
    1. L\u2019acquisition de donn\u00e9es massives selon le paradigme LET, donc chargement d\u2019abord, porte un r\u00e9el risque sur la souverainet\u00e9 et conservation et la finalit\u00e9 de l\u2019utilisation des donn\u00e9es. Pour autant, c\u2019est une proc\u00e9dure aujourd\u2019hui consid\u00e9r\u00e9e comme une bonne pratique si elle respecte des r\u00e8gles que nous aborderons par la suite.<\/li>\n
    2. L\u2019automatisation des t\u00e2ches et actions, historiquement ind\u00e9pendantes des technologies su-mentionn\u00e9es, devient \u00e9galement risqu\u00e9e car l\u2019ex\u00e9cution des algorithmes en temps r\u00e9el et parfois de mani\u00e8re embarqu\u00e9e, pose la question du positionnement de l\u2019Homme dans le cycle de traitement de la donn\u00e9e : de l\u2019ingestion \u00e0 l\u2019action, l\u2019Homme programme, mais l\u2019Homme peut-il contr\u00f4ler? Cette complexit\u00e9 est d\u2019autant plus vrai d\u00e8s qu\u2019il s\u2019agit d\u2019apprentissage automatique profond ou par renforcement, dont les sp\u00e9cificit\u00e9s seront d\u00e9taill\u00e9es ci-apr\u00e8s.<\/li>\n<\/ol>\n<\/li>\n<\/ol>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\r\n
      \r\n\t
      \r\n\t\t

      Nous voil\u00e0 confront\u00e9 \u00e0 un paradoxe au sein de l\u2019Intelligence Artificielle et de l\u2019\u00e9thique : si l\u2019homme programme, alors il est le maitre. Mais\u00a0 si l\u2019Homme programme jusqu\u2019\u00e0 l\u2019ex\u00e9cution de l\u2019action, et que le tout est <\/b>automatis\u00e9e \u00e0 une v\u00e9locit\u00e9 et sur un p\u00e9rim\u00e8tre qui le d\u00e9passent? Alors peut-il d\u00e9programmer en cas d\u2019erreur? Demeure-t-il maitre?<\/b><\/p>\n

      D\u00e8s lors, la question qu\u2019il s\u2019agit de se poser est : quels droits conf\u00e9rer aux IA, face aux hommes ?<\/b><\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\n\t\t<\/div> \n\t<\/div>\n\t<\/div> \n<\/div><\/div>\n\t\t\t<\/div> \n\t\t<\/div>\n\t<\/div> \n<\/div><\/div>\n\t\t

      <\/div><\/div>
      <\/div><\/div>
      \n\t
      <\/div>\n\t\t
      \n\t\t\t
      \n\t\t\t\t

      \n

      ETHIQUES DES <\/b>IAs<\/b>, MORALE DE L\u2019IA<\/b><\/h3>\n

      D\u00e9veloppe de telle sorte que la maxime de ton code puisse \u00eatre \u00e9rig\u00e9e par ta volont\u00e9 en une loi universelle<\/strong><\/p>\n<\/h2><\/div>

      <\/div>

      \u00ab\u00a0Agis de telle sorte que la maxime de ton action puisse \u00eatre \u00e9rig\u00e9e par ta volont\u00e9 en une loi universelle ; agis de telle sorte que tu traites toujours l’humanit\u00e9 en toi-m\u00eame et en autrui comme une fin et jamais comme un moyen ; agis comme si tu \u00e9tais \u00e0 la fois l\u00e9gislateur et sujet dans la r\u00e9publique des volont\u00e9s libres et raisonnables.\u00a0\u00bb <\/i><\/h4> <\/div> <\/div>

      Emmanuel Kant<\/i><\/h4> <\/div> <\/div><\/div>\r\n
      \r\n\t
      \r\n\t\t

      Nous traitons ici le sujet de l\u2019IA et de l\u2019\u00e9thique. Nous cherchons \u00e0 scinder les IA en IA \u00e9thiques et non \u00e9thiques. Nous cherchons \u00e0 conf\u00e9rer des droits aux IA et \u00e0 en d\u00e9conseiller d\u2019autres.<\/p>\n

      Seulement, nous ne pouvons juger de l\u2019Ethique d\u2019une IA, des droits qui peuvent lui \u00eatre conf\u00e9r\u00e9s, sans fondements rationnels de ce qui serait \u00e9thique ou non. Seulement, un Ehtos<\/i> est une coutume, donc une r\u00e8gle arbitraire et variable selon le contexte d\u2019une civilisation. Une IA \u00e9thique au-del\u00e0 de Pyr\u00e9n\u00e9es ne saurait forcement \u00eatre reproductible en toute \u00e9thique en de\u00e7\u00e0. Le caratc\u00e8re \u00e9thique diff\u00e8re ainsi, entre des civilisations plus ou moins sensibles aux dichotomies libert\u00e9 contre \u00e9galit\u00e9, ou libert\u00e9 contre s\u00e9curit\u00e9.\u00a0 En Hommes de Sciences, nous pr\u00e9f\u00e9rons un test plus ais\u00e9 dans la qualification des IA, permettant d\u2019int\u00e9grer des principes invariants dans la qualification non pas de l\u2019\u00e9thique d\u2019une IA mais de sa moralit\u00e9.<\/p>\n

      Face \u00e0 la d\u00e9finition des principes de la morale d\u2019Emmanuelle Kant comme \u00e9tant l\u2019action dont la finalit\u00e9 se veut universelle, g\u00e9n\u00e9ralement simplifi\u00e9e par une conception de la morale refusant \u00e0 l\u2019action de l\u2019un envers autrui ce que cet un ne saurait accepter pour soi-m\u00eame, il apparait possible de qualifier quelques usages de l\u2019Intelligence Artificielle immoraux. Il parait aussi plus ais\u00e9, de pouvoir borner les droits des IA \u00e0 des finalit\u00e9s morales et de d\u00e9crire un paradigme moral de l\u2019utilisation des Intelligences Artificielles. Il parait enfin possible, de conclure sur ce qui permet de d\u00e9passer le paradoxe de l\u2019Intelligence Artificielle tel que formul\u00e9 pr\u00e9c\u00e9demment.<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\r\n

      \r\n\t
      \r\n\t\t

      Illustration 1 \u2013 Quelles caract\u00e9ristiques pragmatiques et v\u00e9rifiables <\/i><\/u>d\u00e9finieraient<\/i><\/u> des IA morales selon les principes des fondements de la Morale ?<\/i><\/u><\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n

      \r\n
      \r\n \"Caract\u00e9ristiques\r\n <\/div>\r\n <\/div>\r\n
      \r\n\t
      \r\n\t\t

      Moralement, une Intelligence Artificielle digne de confiance et orient\u00e9e vers des objectifs nobles, une finalit\u00e9 b\u00e9n\u00e9fique ou du moins non n\u00e9faste, serait en mesure de r\u00e9pondre aux diff\u00e9rentes caract\u00e9ristiques identifi\u00e9es ci-dessus. L\u2019absence d\u2019une caract\u00e9ristique pourrait en effet susciter un risque. En effet, ces principes permettent collectivement de d\u00e9passer le paradoxe de l\u2019IA et individuellement d\u2019assurer des droits fondamentaux et universels aux Hommes, car r\u00e9pondant tous au tests relatifs aux fondements de la Morale rappel\u00e9s en pr\u00e9ambule. Il est donc possible de juger une IA, ind\u00e9pendamment de l\u2019Ethos d\u2019un pays, d\u2019une activit\u00e9 ou d\u2019une coutume, mais sur la base de principes universels. Mais, ce qui devrait susciter le plus d\u2019int\u00e9r\u00eat dans ce canevas n\u2019est pas tant la facult\u00e9 de juger mais plut\u00f4t les m\u00e9canismes pr\u00e9ventifs que l\u2019on peut s\u2019imposer lors du d\u00e9veloppement d\u2019une IA<\/p>\n

      D\u00e8s lors, un canevas moral de d\u00e9veloppement d\u2019application IA, fussent-elles orient\u00e9es vers le bien en commun ou vers des application purement mercantiles et int\u00e9ress\u00e9es est identifiable et ne peut se passer d\u2019une logique d\u2019adoption native de r\u00e8gles \u00e0 respecter, d\u00e8s la gen\u00e8se du projet. Cette logique consistant \u00e0 \u00e9pouser d\u00e8s la construction d\u2019un projet d\u2019Intelligence Artificielle d\u00e8s modus operandi assurant les principes d\u2019une IA morale sont souvent qualifi\u00e9s par les anglo-saxons de concepts by design. <\/i>Il en existe un certain nombre qui sont des principes directeurs du droits du num\u00e9riques et qui prennent une dimensions toute particuli\u00e8re lorsqu\u2019il s\u2019agit de sciences et technologies de la donn\u00e9es dans un paradigme automatis\u00e9 ou non. Ils sont \u00e9galement constitutif des textes r\u00e9gissant les lois les plus avanc\u00e9es dans le domaine du respects de l\u2019Homme et de ses droits face \u00e0 la technologie.<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n

      Illustration 2 \u2013 Disposition \u00e0 entreprendre lors de la construction d\u2019une application d\u2019Intelligence Artificielle et contribution au sein des caract\u00e9ristiques des IA morale<\/i><\/u> <\/div> <\/div><\/div>
      \r\n
      \r\n \"Illustration\r\n <\/div>\r\n <\/div>
      <\/div><\/div>\r\n
      \r\n\t
      \r\n\t\t

      Il apparait important \u00e0 ce stade de pouvoir transposer ces concepts \u00e0 des secteurs et m\u00e9tiers autres que ce de l\u2019IA pour pouvoir, avant de prolonger technologiquement l\u2019analyse de la faisabilit\u00e9 des concepts, prendre le recul n\u00e9cessaire permettant une compr\u00e9hension globale de ces concepts. Le principe de Privacy & Security by Design by Default n\u2019est gu\u00e8re loin des injonctions qu\u2019un notaire doit respecter d\u00e8s qu\u2019il s\u2019agit de la protection des donn\u00e9es de ces clients, la non autonomie des IA potentiellement nuisibles et la vigilance accrue s\u2019apparentent aux m\u00e9canismes d\u2019un fusible. L\u2019explicabilit\u00e9 et la documentation des mod\u00e8les est la notice d\u2019un m\u00e9dicament quand le devoir de transparence est le livre comptable d\u2019une soci\u00e9t\u00e9 en bourse. Quant \u00e0 la non prolif\u00e9ration des IA malveillantes, ce concept peut r\u00e9gir \u00e0 peu pr\u00e8s toute activit\u00e9 malveillante, du trafic de drogues \u00e0 la prolif\u00e9ration des armes de destructions massives. N\u00e9anmoins cela ne nous \u00e9claire pas encore suffisamment sur les actions technologiques r\u00e9elles \u00e0 appliquer dans le domaine de l\u2019IA ni sur ce que les premiers textes imposent et recommandent.<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\n\t\t\t<\/div> \n\t\t<\/div>\n\t<\/div> \n<\/div><\/div>\n\t\t

      <\/div><\/div>
      <\/div><\/div>
      \n\t
      <\/div>\n\t\t
      \n\t\t\t
      \n\t\t\t\t

      \n

      MYTHOLOGIES DE L\u2019IA, RISQUES DES SCIENCES DE LA DONN\u00c9E<\/b><\/h3>\n

      D\u00e9construire des fantasmes, identifier et d\u00e9passer des risques et passer au crible de notre analyse pr\u00e9liminaire des exemples d\u2019actualit\u00e9<\/b><\/h3>\n<\/h2><\/div>
      <\/div>\r\n
      \r\n\t
      \r\n\t\t

      Comment appliquer technologiquement nos concepts? Existe-t-il d\u00e8s lors th\u00e9oriquement des IA qui malgr\u00e9 les pr\u00e9cautions identifi\u00e9es pourraient faire persister un risque pour l\u2019Homme, voire l\u2019Humanit\u00e9? En existe-t-il d\u00e9j\u00e0?<\/p>\n

      Ces trois questions animent fortement le quotidien de nombreux r\u00e9gulateurs, entrepreneurs et experts en s\u00e9curit\u00e9 informatique car il est ind\u00e9niable que les IA conf\u00e8rent \u00e0 leur possesseurs et programmeurs une sup\u00e9riorit\u00e9 de fait sur autrui.<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\r\n

      \r\n\t
      \r\n\t\t

      A l\u2019image d\u2019une arme ou d\u2019une substance, cette sup\u00e9riorit\u00e9 conf\u00e9r\u00e9 d\u00e9clenche de facto des comportements n\u00e9fastes chez des Hommes immoraux, capable de fait de programmer des IA immorales.<\/p>\n

      C\u2019est donc sous ce prise extr\u00eamement pessimiste mais \u00e9minemment en phase avec la r\u00e9alit\u00e9 du monde que l\u2019analyse des solutions de protection de l\u2019Homme face \u00e0 la malveillance des hommes, dans son expression v\u00e9hicul\u00e9e par des cas d\u2019usages d\u2019Intelligence Artificielle volontairement n\u00e9fastes ou simplement insuffisamment respectueueux des principes \u00e9dict\u00e9s ci-dessus, que le d\u00e9veloppeur d\u2019Intelligence Artificielles tout comme le r\u00e9gulateur pense les solutions technologiques \u00e0 chaque point pr\u00e9c\u00e9demment cit\u00e9. Il en d\u00e9couple un arsenal de disposition techniques qui, apr\u00e8s des ann\u00e9es d\u2019usage et de recul face \u00e0 l\u2019IA, ont su prouver une forte plus-value, n\u00e9anmoins limit\u00e9e \u00e0 l\u2019ing\u00e9niosit\u00e9 de ceux qui cherchent \u00e0 les contourner et g\u00e9n\u00e9ralement toujours con\u00e7ues en r\u00e9action \u00e0 un incident. Un aper\u00e7u non exhaustif est fourni ci-apr\u00e8s et en annexe :<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\r\n

      \r\n\t
      \r\n\t\t

      Moralement, une Intelligence Artificielle digne de confiance et orient\u00e9e vers des objectifs nobles, une finalit\u00e9 b\u00e9n\u00e9fique ou du moins non n\u00e9faste, serait en mesure de r\u00e9pondre aux diff\u00e9rentes caract\u00e9ristiques identifi\u00e9es ci-dessus. L\u2019absence d\u2019une caract\u00e9ristique pourrait en effet susciter un risque. En effet, ces principes permettent collectivement de d\u00e9passer le paradoxe de l\u2019IA et individuellement d\u2019assurer des droits fondamentaux et universels aux Hommes, car r\u00e9pondant tous au tests relatifs aux fondements de la Morale rappel\u00e9s en pr\u00e9ambule. Il est donc possible de juger une IA, ind\u00e9pendamment de l\u2019Ethos d\u2019un pays, d\u2019une activit\u00e9 ou d\u2019une coutume, mais sur la base de principes universels. Mais, ce qui devrait susciter le plus d\u2019int\u00e9r\u00eat dans ce canevas n\u2019est pas tant la facult\u00e9 de juger mais plut\u00f4t les m\u00e9canismes pr\u00e9ventifs que l\u2019on peut s\u2019imposer lors du d\u00e9veloppement d\u2019une IA<\/p>\n

      D\u00e8s lors, un canevas moral de d\u00e9veloppement d\u2019application IA, fussent-elles orient\u00e9es vers le bien en commun ou vers des application purement mercantiles et int\u00e9ress\u00e9es est identifiable et ne peut se passer d\u2019une logique d\u2019adoption native de r\u00e8gles \u00e0 respecter, d\u00e8s la gen\u00e8se du projet. Cette logique consistant \u00e0 \u00e9pouser d\u00e8s la construction d\u2019un projet d\u2019Intelligence Artificielle d\u00e8s modus operandi assurant les principes d\u2019une IA morale sont souvent qualifi\u00e9s par les anglo-saxons de concepts by design. <\/i>Il en existe un certain nombre qui sont des principes directeurs du droits du num\u00e9riques et qui prennent une dimensions toute particuli\u00e8re lorsqu\u2019il s\u2019agit de sciences et technologies de la donn\u00e9es dans un paradigme automatis\u00e9 ou non. Ils sont \u00e9galement constitutif des textes r\u00e9gissant les lois les plus avanc\u00e9es dans le domaine du respects de l\u2019Homme et de ses droits face \u00e0 la technologie.<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n

      Illustration 3 \u2013 D\u00e9clinaison technique des concepts pr\u00e9alablement identifi\u00e9s en r\u00e9ponses aux exigences de <\/i><\/u>morait\u00e9<\/i><\/u> des <\/i><\/u>IA<\/i><\/u> <\/div> <\/div><\/div>
      \r\n
      \r\n \"Illustration\r\n <\/div>\r\n <\/div>
      <\/div><\/div>\r\n
      \r\n\t
      \r\n\t\t

      Ces \u00e9l\u00e9ments pris en compte nativement r\u00e9duisent fortement le risque port\u00e9 par les sciences et technologies de la donn\u00e9e dans un contexte de traitement massifs et automatis\u00e9s. Il demeure n\u00e9anmoins quelques exceptions technologiques qu\u2019il s\u2019agit de d\u00e9finir et de replacer dans un contexte de d\u00e9veloppement exponentiel des technologies de la donn\u00e9e.<\/p>\n

      En effet, deux types d\u2019approches, sous-cat\u00e9gories de l\u2019apprentissage automatique d\u00e9finit auparavant font persister un risque g\u00e9n\u00e9ralement consid\u00e9r\u00e9 comme sup\u00e9rieur aux autres mod\u00e8les car il ne peut valider l\u2019ensemble des pr\u00e9cautions cit\u00e9es ci-dessus. En effet, quelques r\u00e8gles sont difficilement applicables lorsqu\u2019il s\u2019agit de l\u2019apprentissage profond (deep learning) ou par renforcement (reinforcement learning). En l\u2019absence d\u2019une IA dite \u00ab\u00a0forte\u00a0\u00bb, dont l\u2019av\u00e8nement dans le court terme demeure incertain, ce sont ces deux sous domaines de l\u2019apprentissage automatique qui demandent une analyse compl\u00e9mentaire.<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\r\n

      \r\n\t
      \r\n\t\t

      L\u2019apprentissage profond : est un sous-domaine de l\u2019apprentissage automatique mobilisant les sciences cognitives informatiques et des technologies de r\u00e9seaux de neurones multicouches. Si la compr\u00e9hension de l\u2019apprentissage de ces mod\u00e8les d\u2019une part et des couches de r\u00e9sultats d\u2019autre part est ais\u00e9e, l\u2019explicabilit\u00e9 des couches interm\u00e9diaires, des calculs et l\u2019attribution des poids de chaque neurones au sein de ces couches demeure du domaine de la recherche math\u00e9matique fondamentale. Les principes non v\u00e9rifi\u00e9s sont donc les suivants : <\/i><\/p>\n

        \n
      1. \n
          \n
        1. Explicabilit\u00e9 des mod\u00e8les<\/i><\/li>\n
        2. Devoir de transparence<\/i><\/li>\n<\/ol>\n<\/li>\n<\/ol>\n

          L\u2019apprentissage par renforcement : consiste en la capacit\u00e9 d\u2019un mod\u00e8le de devenir auto-apprenant en lui fixant un objectif \u00e0 atteindre, des listes d\u2019erreurs commises et une fonction d\u2019optimisation lui conf\u00e9rant tel un enfant des bons et mauvais points dont il s\u2019agit de maximiser le score. Les principes non v\u00e9rifi\u00e9s sont donc les suivants : <\/i><\/p>\n

            \n
          1. \n
              \n
            1. Non autonomie des IA<\/i><\/li>\n
            2. Vigilance et garde fous<\/i><\/li>\n<\/ol>\n<\/li>\n<\/ol>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n
              Illustration 4 \u2013 Avantage, inconv\u00e9nient et plan de r\u00e9duction des risques en ce qui concerne les deux sous-cat\u00e9gories exceptionnelles<\/i><\/u> <\/div> <\/div><\/div>
              \r\n
              \r\n \"\"\r\n <\/div>\r\n <\/div>
              <\/div><\/div>
              En combinaison de ces deux approches de l\u2019apprentissage automatique, seule la non prolif\u00e9ration demeure un rempart ad\u00e9quat.<\/b> <\/div> <\/div><\/div>\r\n
              \r\n\t
              \r\n\t\t

              Nous sommes \u00e0 pr\u00e9sent aptes \u00e0 juger, analyser, documenter et qualifier des cas d\u2019usages d\u2019Intelligence Artificielle contemporaines et d\u00e9ploy\u00e9es dans le monde, ou du moins d\u00e9passant un simple seuil hypoth\u00e9tique et souvent sujettes \u00e0 des all\u00e9gations. Si certaines de ces IA semblent relever du fantasme, il existe n\u00e9anmoins de plus en plus d\u2019incidents et de preuves de l\u2019existence de certaines formes d\u2019IA nuisibles, malveillantes ou tout simplement non respectueuses des pr\u00e9cautions ou principes d\u2019usages que l\u2019on a d\u00e9crit tout au long de cette analyse.<\/p>\n

              Nous prendrons des exemples non exhaustifs et d\u2019actualit\u00e9 de sorte \u00e0 pouvoir faire \u00e0 la part du mythe de l\u2019IA de celle des risques av\u00e9r\u00e9s des sciences des donn\u00e9es qu\u2019elles embarquent. Ce travail est construit sur la base des analyses pr\u00e9alables et tentera d\u2019utiliser dans tous les cas les r\u00e9sultats des canevas identifi\u00e9s tant du point de vue de la morale de l\u2019IA, des droits des IA, des implications technologiques et de l\u2019existence du risque additionnel suscit\u00e9 par les deux sous domaines les plus prometteurs mais aussi les plus risqu\u00e9s de l\u2019apprentissage automatique.<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n

              Illustration 5 \u2013 Fantasme envers l\u2019IA ou r\u00e9alit\u00e9 d\u2019un risque des sciences et technologies de la donn\u00e9es dans un contexte de traitement massif et d\u2019automatisation de l\u2019action<\/i><\/u> <\/div> <\/div><\/div>
              \r\n
              \r\n \"Illustration\r\n <\/div>\r\n <\/div>\n\t\t\t<\/div> \n\t\t<\/div>\n\t<\/div> \n\n\t
              <\/div>\n\t\t
              \n\t\t\t
              \n\t\t\t\t\n\t\t\t<\/div> \n\t\t<\/div>\n\t<\/div> \n<\/div><\/div>\n\t\t
              <\/div><\/div>
              <\/div><\/div>
              \n\t
              <\/div>\n\t\t
              \n\t\t\t
              \n\t\t\t\t

              \n

              Une ouverture vers un avenir de d\u00e9mocratisation des IA<\/b><\/h3>\n

              Big<\/b> Brother ou <\/b>Big<\/b> Community<\/b>?<\/b><\/p>\n<\/h2><\/div>

              <\/div>\r\n
              \r\n\t
              \r\n\t\t

              Une conscience citoyenne est en marche concernant les usages de l\u2019Intelligence Artificielle. Et plusieurs \u00e9l\u00e9ments militent en faveur d\u2019un avenir mieux encadr\u00e9 et profitable au plus grand nombre. Les facteurs militant pour cette vision sont nombreux et justifieraient \u00e0 eux seuls une analyse d\u00e9taill\u00e9e concernant l\u2019avenir de l\u2019Homme face aux IA des hommes. Il apparait simple mais \u00e9minemment pertinent de construire cette ouverture sur un nouveau paradoxe, non sp\u00e9cifiquement reli\u00e9\u00a0 l\u2019IA : la morale int\u00e9ress\u00e9.<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\r\n

              \r\n\t
              \r\n\t\t

              Un tel oxymore susciterait pour beaucoup un sentiment d\u2019erreur conceptuelle dans la d\u00e9finition m\u00eame de la morale mais pour autant, il qualifie une r\u00e9alit\u00e9 des d\u00e9mocraties contemporaines et du capitalisme en soi : l\u2019h\u00e9g\u00e9monie politique ou \u00e9conomique ne peut subsister que par l\u2019adh\u00e9sion du citoyen et du client envers le pouvoir ou l\u2019entreprise. En cons\u00e9quence, les mouvement citoyens face aux IA canaliseraint ainsi leur usage n\u00e9faste, politiques ou \u00e9conomique, de peur de la destitution, de la r\u00e9volte ou du boycott. Des mouvements historiques en ce sens animent le monde de l\u2019Intelligence Artificielle, et ce d\u00e8s son berceau (Berkeley, ville native de l\u2019IA mais aussi des civils rights, des droits des femmes aux USA, des mouvement libertariens etc.). De ces tendances de fond de l\u2019IA nous retiendront :<\/p>\n\t<\/div>\r\n<\/div>\r\n\r\n\r\n\r\n\r\n

              \r\n\t
              \r\n\t\t