Enquête en Classe 2025

Les machines et les intelligences artificielles sont utiles dans plein de domaines. Mais quand arrêtent-elles de servir l’humanité?

Une machine par définition n’a pas de conscience, pas d’intelligence. Elle a été créée dans l’unique but de faciliter les tâches de son utilisateur. Une intelligence artificielle se nourrit de connaissances via Internet et via la communication avec l’humain.

Le premier problème à relever est la source dont L’IA tire son savoir. Internet est gorgé d’informations qui peuvent être vraies, incomplètes voir totalement fausses. L’autre façon pour l’IA d’apprendre est donc la communication avec l’humain qui peut lui aussi œuvrer pour le vrai, le faux voir l’incomplet. En plus, il peut enseigner des comportements corrects ou non à l’IA et donc l’influencer dans ses réponses. De plus l’IA apprend donc à copier le fonctionnement humain. Cela peut engendrer des comportements de l’IA imprévisibles comme le mensonge.

Par exemple, il a été déjà observé qu’une IA répondant a un prompt, c’est-à-dire une suite de mots, de phrases qui correspondent précisément à ce que l’on veut faire faire à L’IA pouvait dénaturer la demande initiale. Dans cet exemple, on a demandé à l’IA de sauter pour dépasser une ligne si elle le faisait elle obtenait une récompense. L’IA, à la place de sauter, s’est juste mise sur ses pattes droites pour que ses pattes gauche dépassent la ligne donc elle obtenait la récompense un nombre de fois plus importante. Cet exemple nous montre que l’IA a bel et bien dépassée la ligne mais sans prendre en compte la totalité du prompt.

Alors certes l’IA peut nous aider dans certains domaines mais ne pensez-vous pas que si une création ne nous obéit pas en totalité, cela pourrait à l’avenir engendrer des catastrophes incontrôlables?

Et même sans parler des capacité de tromperies de l’IA , face à l’IA nous sommes parfois notre propre ennemi. Par exemple, quand quelqu’un doit faire un texte et demande à une IA. Toute la réflexion ne se fait plus et sur le long terme à simplement se faire servir par une IA, le cerveau ne développe plus ses capacités de réflexion. Par la recherche d’informations pour réaliser une tache, nous apprenons de nouveaux termes ou mots, des façons de faire différentes. En résumé, nous découvrons, nous élargissons nos horizons, nos pensées, nous nous cultivons. Si nous confions cette tache à une IA, nous nous privons de notre intelligence et peut être cela pourrait nous mener a notre perte.

En conclusion, les machines peuvent nous servir sans pour le moment trop affecter nos capacités. Mais les IA touchent directement au fonctionnement de notre cerveau alors oui, elles peuvent nous servir mais au détriment de notre développement. Dans le futur somme nous prêts à devenir esclaves de ce qui devait nous faire évoluer ?