Craintes IA OpenAI

ChatGPT contrôle-t-il le monde ?

Il est temps de parler d’un sujet qui suscite à la fois l’excitation et l’inquiétude : l’intelligence artificielle (IA). Plus précisément, nous allons aborder les craintes liées à l’IA, en nous basant sur l’expérience d’un Québécois travaillant pour OpenAI, une entreprise de pointe dans le domaine.

Qui est ce Québécois travaillant pour OpenAI ?

Mati Roy, originaire de Longueuil, est un acteur clé de l’entreprise californienne OpenAI. Après ses études en génie physique à l’Université Laval, il s’est intéressé aux impacts de l’IA et a rapidement intégré l’équipe d’élite d’OpenAI. Il est l’un des responsables stratégiques du programme technique de l’entreprise, dont la valeur avoisinerait les 108 G$.

Son rôle chez OpenAI

Il supervise des personnes qui prétendent être ChatGPT, un robot conversationnel développé par OpenAI, pour voir comment ChatGPT devrait apprendre. Son travail est de s’assurer que ces données soient de haute qualité. Il cherche à déterminer le comportement idéal de ChatGPT.

Quelles sont ses craintes ?

Mati Roy craint que l’humanité perde totalement le contrôle de l’IA. Il compare l’IA à l’énergie nucléaire : elle peut être utilisée pour le bien ou le mal, et il y a des risques d’accident. Il estime qu’il est dangereux de créer un être extrêmement puissant sans l’aligner avec nos valeurs.

Le combat entre le Bien et le Mal

Il n’est pas le seul à exprimer ces craintes. Yoshua Bengio, un autre expert québécois en IA, avait déjà prévenu des risques de dérives si l’IA n’est pas encadrée. Il avait même partagé ses inquiétudes lors d’un sous-comité au Sénat américain à Washington.

Quels sont les impacts sur le marché du travail ?

Le Conseil de l’innovation du Québec (CIQ) a récemment pressé le gouvernement de moderniser les lois du travail pour éviter que les avancées de l’IA ne viennent frapper de plein fouet le marché de l’emploi.

Quel est le potentiel de l’IA selon Mati Roy ?

Mati Roy est convaincu que si nous arrivons à inculquer des valeurs à la machine pour éviter notre anéantissement, l’humanité fera un bond de géant en avant. Il estime que la technologie évoluera très rapidement une fois que nous aurons créé des êtres plus intelligents que nous. Les problèmes comme le cancer deviendront faciles à régler, selon lui.

La vie éternelle grâce à l’IA ?

Mati Roy a une vision optimiste de l’avenir avec l’IA. Il aimerait que les gens puissent vivre aussi longtemps qu’ils le veulent. Il estime que l’IA bien dirigée avec de bonnes valeurs pourrait faire évoluer l’humanité dans la bonne voie.

Auteur / autrice

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Retour en haut