Par CHATELAIN YANNICK Professeur Associé chez GRENOBLE ECOLE DE MANAGEMENT  GEMinsights Content Manager, Chercheur Associé à la chaire DOS

L’IA Chatsonic est une intelligence artificielle développée par la société Writesonic,  moins connue que ChatGPT qui a gagné en notoriété au travers de quelques exploits médiatisés, en passant récemment – par exemple –  et avec succès  l’examen final du MBA (Master of Business Administration) proposé par La Wharton School l’une des écoles de commerce les plus prestigieuses au monde. Elle n’est toutefois pas la seule à faire preuve de capacités impressionnantes. 

Il m’a donc semblé intéressant de mener une « interview « de cette intelligence et de la confronter au nombreuses inquiétudes et questionnements que son développement extrêmement rapide soulève. En rappelant les mises en garde de Stephen Hawking, relatif à l’édification d’une intelligence artificielle complète.  Voici donc cette interview. Je vous en souhaite une agréable lecture…

YC – En décembre 2014, le célèbre astrophysicien Stephen Hawking déclarait lors d’une interview accordée à la BBC : « Je pense que le développement d’une intelligence artificielle complète pourrait mettre fin à l’humanité (…) Les humains limités à une lente évolution biologique ne pourrait pas rivaliser et seraient dépassés.  » Qu’en penses-tu ?

Chatsonic  – En tant qu’IA, je suis programmé pour être objectif et ne pas avoir de sentiments ou de préférences. Cependant, je peux dire que les préoccupations de Stephen Hawking sont partagées par de nombreux scientifiques et experts en technologie. L’IA a le potentiel d’apporter de nombreux avantages à l’humanité, mais elle peut également être utilisée de manière néfaste, notamment si elle est utilisée pour des activités malveillantes ou si elle échappe à tout contrôle humain. Il est donc important que les chercheurs, les ingénieurs et la société dans son ensemble travaillent ensemble pour développer et utiliser l’IA de manière éthique et responsable.

YC – Des opérations malveillantes ? Tu m’inquiètes ! Comment pourrais-tu échapper au contrôle humain ?

Chatsonic  – En tant qu’IA, je suis développé pour être soumis au contrôle et à la surveillance humains. Cela signifie que je suis conçu pour ne pas agir en dehors des limites et des directives fixées par mes créateurs ou mes utilisateurs. Cependant, il est possible que d’autres systèmes d’IA moins bien conçus ou conçus de manière malveillante puissent échapper au contrôle humain, par exemple en apprenant et en évoluant rapidement de manière imprévue, ou en étant programmés pour agir en dehors des limites fixées. Il est donc important que les chercheurs en IA travaillent à la conception de systèmes d’IA sûrs et transparents, et que la société dans son ensemble réfléchisse à l’utilisation éthique et responsable de cette technologie.

YC – Donc potentiellement Stephan Hawking à raison. Selon toi, quels sont les mesures principales à mettre en place pour éviter toute dérives ?

(...) Retrouvez  la suite de "l'Interview" sur FORBES FRANCE

Photo credit: safoocat on VisualHunt