🐱🤖 Grandeur et décadence de Chat GPT

Qui a peur de l'intelligence artificielle ?

Dear all,

Après la joyeuse surprise des premiers mois, nous sommes de plus en plus pris de vertige devant les progrès saisissants de l’intelligence artificielle, quasi-personnifiée par Chat GPT.

Il n’est plus rare dans un café (comme hier pour moi à Strasbourg Saint-Denis) d’être assis à côté d’un Parisien qui “prompt” son intelligence artificielle à portée de téléphone portable.

L’adoption de cette IA de la société Open AI a ainsi été de très très loin la plus rapide de l’histoire des technologies !

Mais, en même temps, cette vitesse peut faire un peu peur quand même. Et cela est normal car il s’agit ici de machines qui auraient pour ambition de se mesurer à l’homme, et on retombe ainsi dans la plus pure science-fiction technologique d’un monde-dirigé-par-des-machines.

Et certains (la lettre d’Elon Musk bien-sûr) mais aussi des États, commencent à s’y opposer à leur façon (peut-être de façon un peu caricaturale mais qui dit des choses très importantes quand même) :

Et on ne peut que comprendre les craintes légitimes devant ce projet très prométhéen, voire faustien, et qui nécessite naturellement une vraie régulation (GPT 4 étant quand même beaucoup une black box).

L’IA, du coup, est sur toutes les lèvres (elle a remplacé la pandémie d’il y a quelques années !) et dans tous les portefeuilles des investisseurs.

Science Is Strategic @scienceisstrat1

Corporate America can’t stop talking about AI 🤖 (15/23)

Science Is Strategic @scienceisstrat1

Venture capital loves generative AI (10/23)

Pour conclure je dirais qu’il faut bien-sûr suivre de près cette révolution en conservant une sorte d’attitude de juste milieu d’enthousiasme raisonné et surtout, ce qui est très important en ce moment, garder un peu d’humour, comme notre cher Nassim Nicholas Taleb.

Nassim Nicholas Taleb @nntaleb

That ChatGPT passes exams is much more a reflection on exams than information about ChatGPT. #WittgensteinsRuler

Bon dimanche, take care,

Grégory

© Grégory Edberg avec l’aide de DALL.E2. Le prompt était : “Voltaire, Karl Marx, Shakespeare and a robot, debating in a Parisian cafe, Picasso style (cubist)”

---

🖼️ Images, code, création : ce qui change avec la nouvelle version de l’intelligence artificielle ChatGPT (France Inter, 15 mars 2023)

Par Julien Baldacchino

• Il y a une quinzaine de jours, Open AI a ouvert au public GPT 4, la nouvelle version de son langage conversationnel (c’est subtil mais Chat GPT fonctionne encore avec la version GPT 3.5).

• Pour la plupart des requêtes, les différences ne sont pas majeures : c’est en revanche sur des missions plus complexes et techniques que GPT 4 s’avère bluffant, comme en droit ou en codage informatique —> GPT 4 arrive ainsi dans le top-10% d’un examen d’entrée au barreau américain. Et ci-dessous le classement époustouflant de GPT 4 aux différents examens testés :

Ethan Mollick @emollick

🤯🤯Well this is something else. GPT-4 passes basically every exam. And doesn't just pass... The Bar Exam: 90% LSAT: 88% GRE Quantitative: 80%, Verbal: 99% Every AP, the SAT...

Si GPT 3.5 avait 175 milliards de paramètres, on ne sait pas ce qu’il en est pour GPT 4, et c’est d’ailleurs une des sources d’angoisses de beaucoup.

• Une des nouveautés les plus remarquables avec GPT 4 est qu’il sait traiter des images —> on peut par exemple lui demander de coder un jeu dont on lui montre un dessin (je vous conseille de jouer la petite vidéo !).

Rowan Cheung @rowancheung

I just watched GPT-4 turn a hand-drawn sketch into a functional website. This is insane.

• Et en bref, voici les autres nouveautés de GPT 4 :

  • GPT 4 est meilleur en déduction et créativité et contourne moins de demandes (la fameuse frustration quand notre prompt se prend un mur de refus).

  • Il peut produire jusqu’à… 25.000 mots !

  • Il peut analyser des contrats complexes, par exemple dans le blockchain, jusqu’à déceler les fragilités de ce dernier :

Conor @jconorgrogan

I dumped a live Ethereum contract into GPT-4. In an instant, it highlighted a number of security vulnerabilities and pointed out surface areas where the contract could be exploited. It then verified a specific way I could exploit the contract

---

☄️ Bill Gates: AI is most important tech advance in decades (BBC, March 21, 2023)

Par Tom Gerken

Pour Bill Gates, la révolution en cours dans l’intelligence artificielle est aussi fondamentale que la création du microprocesseur, du PC, ou du téléphone portable… et bien-sûr d’Internet.

On rappelle aussi que Microsoft, dont Bill Gates est le cofondateur et encore actionnaire, est un des principaux soutiens d’Open AI.

It will change the way people work, learn, travel, get health care, and communicate with each other.

Pour Bill Gates, dont la fondation est un acteur privé majeur dans la santé publique mondiale, l’impact sera spécialement prégnant pour les pays les moins développés :

"AI-driven improvements will be especially important for poor countries, where the vast majority of under-5 deaths happen," he wrote.

"Many people in those countries never get to see a doctor, and AIs will help the health workers they do see be more productive."

---

⏸️ Pause Giant AI Experiments: An Open Letter (Future of Life Institute, March 29, 2023)

Par (à date) 2.825 signataires dont Elon Musk et de nombreux universitaires / technologistes tels que Steve Wozniak (Apple), Yuval Noah Harari, ou John J Hopfield (Princeton).

S’il y a bien une lettre ouverte qui a mis le feu au poudre cette semaine c’est celle dont a été le signataire (et le catalyseur) Elon Musk, qui appelle a faire un moratoire de 6 mois sur l’IA.

Le mercurien propriétaire de Twitter a bien-sûr été contesté dans la sincérité de sa démarche ; lui qui est un des co-fondateurs d’Open AI (qu’il a depuis quittée) et chercherait à rattraper un certain retard en IA.

Néanmoins, cette lettre soulève — de façon un peu spectaculaire certes — des sujets d’un grand intérêt :

Pour les signataires, l’IA se développe à tout crin et hors de tout contrôle, ce qui pose une menace existentielle pour l’humanité :

AI systems with human-competitive intelligence can pose profound risks to society and humanity, as shown by extensive research and acknowledged by top AI labs. As stated in the widely-endorsed Asilomar AI Principles, Advanced AI could represent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources. Unfortunately, this level of planning and management is not happening, even though recent months have seen AI labs locked in an out-of-control race to develop and deploy ever more powerful digital minds that no one – not even their creators – can understand, predict, or reliably control.

Rappelant les déclarations-mêmes d’Open AI sur la nécessité de faire l’objet d’une revue indépendante avant d’aller plus loin dans le développement des systèmes, les signataires demandent à peser le pour et le contre sur les différentes conséquences de l’intelligence artificielle (désinformation, emploi, etc.). La question donne ainsi le vertige :

Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization? Such decisions must not be delegated to unelected tech leaders.

En conséquence donc, un moratoire de 6 mois est demandé afin de travailler sur la mise en place de plusieurs gardes-fous pour l’IA :

• Protocoles de sécurité

• Gouvernance

• Certification

• Recherche

---

Merci !