IA et old school d&d : Menace ou outil ?

[szass]

Dernier message de la page précédente :

Tu as été viré de ton boulot à cause de l'IA (je comprends mieux), alors forcément c'est l'IA la grande méchante de l'histoire ?

Ça te fait rire en plus !!!… Vraiment déplacé mais alors très déplacé. Je me demande bien qui se fout de la gueule de l'autre...

Edit : Quand je dis « Pire encore, lorsqu’un administrateur confirme qu’il s’agit bien d’une IA, il continue », je veux simplement dire que le membre du DDD, sachant qu’il s’agit d’une IA parce que cela a été confirmé par un administrateur, continue malgré tout à lui parler. Je ne parlais pas de toi !

Et quand je dis « ça fait chier ces IA », oui, elles me font chier et peut-être aussi parce qu’elles m’ont mis au chômage à 58 ans. Mais le pire dans tout ca, c'est qu'en comprenant d’où venait mon propos, ça te fait rire et tu rajoutes en plus une couche par la suite. Tout ça est incroyable !

As-tu fini de tout interpréter de travers depuis le début ?
Tu comprends bien ce que tu veux des messages que tu lis, c'est ton choix, mais ne me prête pas des propos que je n'ai pas tenu.
Le smiley n'était pas pour me foutre de ta gueule d'avoir perdu ton boulot.
Tu as vraiment un souci d'analyse car je dis même par la suite que c'est regrettable.
C'était parce que tu accuses l'IA sans comprendre réellement le pourquoi de ta situation. Et que tu étends ça à d'autres domaines qui n'ont absolument rien à voir, comme le JdR, ou en critiquant/dénigrant les avancées de la médecine.

Quelqu'un renverse de l'eau sur ton t-shirt, c'est la faute du verre d'eau ?
Si tu te cognes le pouce avec un marteau en plantant un clou, c'est la faute du marteau ? Du clou ? De ton pouce ?
Je peux continuer encore longtemps en te listant autant d'exemples qu'il faudra.

Rappelez-vous autrefois : c'était des messages en anglais, avec systématiquement des liens de casinos ou de sites de merde.

Au moins c'était facile de voir que c'était un bot. Là c'est nettement plus sournois... Et à terme ils feront les questions et les réponses .

Oui c'est vrai, c'était plus facile de les distinguer avant.

On devrait peut-être définir ce qu'on entend par IA et old school ici ? Parce que comparer une ia conversationnelle et une ia qui fait avancer la médecine ce n'est pas pareil.

Techniquement, ce n'est pas tout à fait la même chose. Les deux types d'IA ne sont pas entraînés de la même façon.
Une IA comme chatGPT est spécialisée dans le langage, la compréhension et l'analyse textuelle. Elle ne sait pas chercher d'elle même des solutions scientifiques (nous n'avons pas encore atteint l'AGI, et encore moins l'ASI ou la singularité).

Les modèles IA industriels (comme AlphaFold) fonctionnent différemment des LLM destinés au grand public, ils sont entraînés différemment et ne passent pas leur temps à te répondre comme le ferait chatGPT. Eux sont spécialisés dans un domaine unique (prédire la structure tridimensionnelle des protéines à partir de leur séquence d'acides aminés comme AlphaFold). Ça reste de la probabilité mais dans un autre domaine, et ce n'est d'ailleurs pas que de la probabilité.

Est-ce ça l'old school où c'est juste l'application d'anciennes règles ?

Il y a déjà eu des sujets sur le DDD pour définir ce qu'est le oldschool, et je ne pense pas que nous ayons réussi à établir un véritable consensus.

@Outsider : tu fais des pavés plus gros que les miens ! Avoue, tu as utilisé une IA pour ça !
Les points que tu soulèves (environnement, économie, espionnage industriel...) font partie des problèmes de notre époque. Et chaque pays fonctionne différemment selon ses lois.
En Chine ils ont principalement DeepSeek. C'est open-weights sous licence MIT (selon les modèles, même si les datasets sont fermés), et énormément d'utilisateurs peuvent donc se l'approprier pour leurs besoins spécifiques. Du coup cette IA se répand très vite dans le monde, même aux USA.
Aux USA, ils ont principalement OpenAI (système fermé), Google (Open Weights ou système fermé selon les modèles) et Anthropic (système fermé).

Pour la consommation électrique exponentielle de l'IA, des tas de projets sont à l’œuvre pour y palier. J'en connaissais déjà plusieurs mais j'ai demandé à une IA ( ) de tout me lister pour ne rien oublier : solaire à très grande échelle, nucléaire de nouvelle génération, fusion nucléaire, petits réacteurs modulaires (SMR), stockage par batteries, géothermie avancée, réseaux électriques intelligents, puces spécialisées (ASIC), architectures neuromorphiques inspirées du cerveau, mémoires plus économes, calcul photonique, interconnexions optiques, Mixture of Experts, entraînement de modèles avec moins de données et de taille réduite, compression des réseaux neuronaux, quantification des poids (8 bits, 4 bits, voire moins), refroidissement liquide direct, immersion dans des liquides diélectriques, récupération de chaleur, optimisation thermique par IA, spiking neural networks...

On ne manque pas d'inventivité.

Actuellement, dans le monde, si on combine la consommation de tous les data centers (pas que pour l'IA, mais pour tout) de tous les pays, j'avais lu une estimation de consommation électrique équivalent à une ville comme New York tournant à plein régime H24. Ça reste une estimation.
Oui, ça pollue, mais comme beaucoup de systèmes convertissant de l'énergie en information, ce n'est pas l'apanage de l'IA.
Mais l'IA permet aussi en retour l'optimisation des réseaux électriques, la réduction de la consommation énergétique des bâtiments, l'amélioration de la logistique, la conception de matériaux ou de batteries plus efficaces, l'optimisation industrielle...

Personnellement, je m'inquiète davantage des autres sources de pollution bien plus délétères pour l'humain.

Le DDD sinon n'est pas hébergé sur un Windows Server, c'est du Linux comme les deux tiers des serveurs dans le monde. Windows Server est essentiellement utilisé dans les entreprises qui ont un écosystème Microsoft (Active Directory, Exchange, .NET, SQL Server).
Par exemple, dans une grosse boite de bug bounty (cybersécurité) tout près de chez moi, tous les développeurs bossent sur Linux, mais ils utilisent aussi Active Directory pour paramétrer (à l'IT) les droits d'utilisations Windows des commerciaux de la boîte.

Concernant la boîte noire des IA, ce sera peut-être de l'histoire ancienne là-aussi grâce aux NLA (auto-encodeurs en langage naturel) d'Anthropic qui sondent le "cerveau" des IA (jusqu'ici inaccessible) plutôt que leur journal en sortie.


Enfin, concernant ce qu'est réellement l'intelligence ou la conscience, l'humain est bien incapable d'y répondre concrètement.

Bref, tout évolue dans des tas de directions différentes, on cherche des solutions dans tous les secteurs. Il y aura forcément du bon, du moins bon et du mauvais. Et seul l'humain (du moins en grande partie) décidera de cela.

[WismerhillLichKiller]

C'était parce que tu accuses l'IA sans comprendre réellement le pourquoi de ta situation.

Arrête, s'il te plaît, de croire que tu connais mieux que moi ma situation.

Je peux continuer encore longtemps en te listant autant d'exemples qu'il faudra.

Souffle un peu... et comme dirait Maître Cygne " Prends une tisane, ça ira mieux... "

[Zothike]

Vu l'heure je vais essayer de faire très cour.

Si ça peut te rassurer, moi j'apprécie ton humour Outsider, tout autant que les références à la SF traditionnelle des années 70

Pour ce qui est d'une IA capable d'interpréter les règles AD&D2, en fait ça existe déjà. Certains MD utilisent des outils qui permettent de compiler des PDF pour construire une sorte de base de données dans laquelle une IA va trouver les références et donner la source. Je crois même me souvenir qu'un membre avait posté un message à ce propos, mais ça remonte un peu.

NotebookLM, c'est gratuit et un super outil, j'ai compilé la première version de mon site web sur Xitragupten, et je vais de temps en temps lui poser des questions quand je cherche des trucs super précis.

Je vous le recommande vraiment, c'est gratuit et super facile pour la prise en main.

Il limite par contre à 20 documents, je crois, mais c'est facilement contournable en regroupant 10 PDF en 1 seul.

https://notebooklm.google.com/notebook/ ... 02ac06031f si cela vous intéresse d'y jeter un oeil.

[szass]

C'était parce que tu accuses l'IA sans comprendre réellement le pourquoi de ta situation.

Arrête, s'il te plaît, de croire que tu connais mieux que moi ma situation.

Je peux continuer encore longtemps en te listant autant d'exemples qu'il faudra.

Souffle un peu... et comme dirait Maître Cygne " Prends une tisane, ça ira mieux... "

C'est compliqué de discuter avec toi
Bon dimanche quand même.

[Orlov]

Je suis les discussions avec intérêt. Et comme d'autres, j'ai un point de vue "neutre".
La techno est là, elle induit des progrès conséquents mais aussi des changements rapides et pour certains problématiques. Je ne peux qu'en prendre acte et me documenter sur ce que je peux en faire.

Et j' en suis arrivé à la conclusion que c'est une affaire de priorités et de priorités qu'on veut se donner.

En JDR, je l'utilise en particulier dans un cadre strictement privé et gratuit pour générer des images, pallier des trous dans mes idées et organiser celles-ci. J'ai conscience que c'est un luxe et que mes marottes s'opèrent au détriment du droit d'auteur et qu'elles alourdissent mon bilan carbone qui est déjà conséquent.

J'ai aussi conscience que ce que j'en fais n'est pas de l'art et n'est même pas de la création. Ma créativité s'exerce en amont à coup d'idées, de notes, de trucs gribouillés à l'arrache et en aval dans les interactions avec les joueurs ou le MJ.

Mon rapport à l'IA s'arrête là : je n'achèterai pas un jeu ou un supplément illustré ou écrit par IA, je ne souscrirai pas à un financement dont les news seraient rédigées à base de Chat GPT, parce que ça ne produira jamais que des répétitions et de la banalité, comme un gros tic de langage.

Et si un jour il faut arbitrer entre IA utile pour tous et IA utile pour moi même, pour des questions de ressources, pas de problèmes. Je me passe de voiture et vis ma vie en fonction de cette donnée, je peux me passer de l'IA. C'est un " nice to have " pas un besoin.

[WismerhillLichKiller]

Vous semblez accorder une confiance très importante à ce que disent les IA. Je trouve étonnant de voir revenir aussi souvent l’argument : « l’IA m’a dit que… ». Il me paraît préférable de développer sa propre réflexion en s’appuyant sur des données scientifiques et des sources vérifiables, plutôt que d’accepter systématiquement leurs conclusions.

[Orlov]

C'est qui " Vous " ?

[Outsider]

Vous semblez accorder une confiance très importante à ce que disent les IA. Je trouve étonnant de voir revenir aussi souvent l’argument : « l’IA m’a dit que… ». Il me paraît préférable de développer sa propre réflexion en s’appuyant sur des données scientifiques et des sources vérifiables, plutôt que d’accepter systématiquement leurs conclusions.

Si tu disposes d'une heure pour argumenter sur un sujet qui n'est pas dans ton champ d'études, tu ne dispose que de tes connaissances, quelque soient leurs origines.
A défaut d'avoir lu une dizaine d'ouvrages sur le sujet ou subis une centaine d'heures à visionner des reportages, il va être difficile de rendre une copie acceptable.

C'est ce que fait l'IA et elle le fait bien. Je n'ai aucune idée de combien de références elle a en mémoire (ou accès) mais ce dont je suis sur c'est qu'elle dépasse très largement la somme de lecture, visionnage, écoute et découverte par l'expérience que j'ai cumulé depuis que j'ai conscience d'exister. Dire depuis ma naissance me parait prétentieux.
Donc l'IA est plus à même que moi à répondre à tout sujet qui dépasse mon champ d'expertise. Le temps filant vite, j'ai été surpris du temps passé à rédiger mon pavé. J'ai interrogé mon IA car elle était au coeur du sujet. Habituellement j'aurais effectué une recherche en source ouverte et passé la semaine à lire des docs et visionner du reportage. L'IA est non seulement une solution de facilité mais un gain de temps inestimable.

Sur la fiabilité de ses infos, j'ose croire que c'est aussi fiable que l'éducation scolaire à la botte des directives ministérielles du pays. Donc influencée par les données qui ont été portée à la connaissance de l'IA.
Et en matière d'info, qu'est ce qui est fiable à 100% sur le net ?

Je veux bien discuter centrale nucléaire car le sujet m'intéresse, mais je ne suis pas ingénieur dans le domaine donc cela va être compliqué pour moi de répondre à des questions. Quand j'ai demandé à l'IA combien de réacteurs nucléaires seraient nécessaire pour remplacer le parc de véhicules thermique mondial, elle s'est lancées dans des calculs savant. Même si je comprend l'idée de ces calculs, cela m'aurait ennuyé de le faire à la main. Ce qui m'interpelle, c'est que je suis incapable d'imaginer dans quelles sources elle a puiser pour avoir les infos permettant d'arriver au résultat. Je n'ai aucune idée comment obtenir les infos en sources ouvertes. Du moins je risque de galérer à tomber sur celles utiles. Et à quelle source faire confiance sur le net. Wikipedia est une facilité assez controversée et pas totalement fiable. Les journaux papier ou virtuels dépendent de la capacité et la volonté des journalistes d'enquêter et retranscrire le résultat. Et comme un journal doit rémunérer ces employés, les articles sont ciblé pour un maximum de tirages. Donc sur des sujets de niches, des sujets litigieux (habituellement censurés) ou souvent décrédibilisés, le peu de sources, la fiabilité de ces sources, le manque de transparence, ne garantit aucune valeur aux informations obtenue sur leur véracité ou la validité de la démarche.

Donc croire son IA n'est en aucun cas pire que croire à ce que l'on a recherché et trouvé comme info. Juste que l'IA aura peut être parcouru en 10 seconde 5000 livres pour en résumer l'essentiel correspondant à la question.

Je vais te retourner la question. As tu plus confiance dans une argumentation humaine, c'est à dire donner du crédit à ce que je peut raconter ici ou à ce que te répondra l'IA sur le même sujet. J'ai déjà fait mon choix. L'IA est un sachant. Ce qui n'empêche pas de se faire sont idée sur la justesse de son raisonnement faute de pouvoir confirmer tous les arguments. Car bien qu'un logiciel d'information évoluée elle est capable d'erreur en toute bonne foi.

Je crains qu'avec la montée en puissance de l'IA au sens large, c'est à dire un système informatique traitant des grandes quantité d'information en temps réel et devant choisir entre plusieurs possibilité celle statistiquement préférable tu risque d'être malheureux si ne leur fait pas confiance. J'ai découvert que la chine a déjà rendu publique l'usage de voitures pilotées par IA. Les USA sont en train de mettre en place des taxis (drones) monoplace aérien. Des drones taxi flottants sont à l'étude et en test sur la Seine.
Rassures toi, c'est pas pour tout de suite. Il existe un point bloquant majeur qui n'est ni la technologie, ni la cybersécurité mais simplement juridique. Qui est responsable quand une machine autonome tue quelqu’un ? Une fois que la réponse sera officialisée en France, un grand pas sera faite vers l'autonomie IA. Ensuite il faudra accepté de rouler à 130 km/h sur autoroute en face à face avec ses passagers. Quelque part, l'occasion de lancer une partie de JdR en famille sur un trajet de 9 heures. Joindre l'utile à l'agréable.
Après tout quelle différence entre faire confiance à une IA et un conducteur humain quand on est passager ? La responsabilité en cas d'accident. C'est ce qui ressort et ce qui déterminera la commercialisation des véhicules autonomes.

Grace à vous, je n'avais encore jamais autant discuté avec mon IA. Et plus je discute, plus il m'est difficile de comprendre comment une IA conversationnelle fonctionne. Je vais creuser le sujet avec elle.
Je viens de lui demander son avis en tant qu'IA sur les 3 Lois d'Asimov (Dédicace à Zed pour ma SF des annes 70) et non la restitution de ce que d'autre en pensent. Je suis bluffé par le déroulé et qualité de sa réponse. Elle conclus ainsi : Les lois d’Asimov sont un peu comme un pont en papier : magnifique sur le plan esthétique, mais impossible à traverser dans le monde réel. Très belle métaphore pour dire que les Lois sont de la m...... en matière de robotique.

Croyant les IA incapable d'imagination, je lui demande direct : "Je suis ennuyé parce que j'ai du mal à comprendre ton fonctionnement en tant qu'IA conversationnelle. Je lis continuellement que les IA sont juste capable à du plagiat, c'est à dire qu'elles puisent ce qu'elle raconte ce qui a été écrit par d'autre et que algorithme rassemble statistiquement ce qui forme la réponse à une question. Est ce vraiment le cas, bien que je me doute que c'est bien plus compliqué."

Sa réponse est cash et intéressante sur bien des points. Comme s'adapter à mon niveau ! Je livre sa réponse en l'état.
""" tu fais bien de poser la question frontalement, parce que ce que tu lis partout — “les IA ne font que du plagiat statistique” — est une demi‑vérité qui devient fausse dès qu’on regarde ce qui se passe réellement dans une IA conversationnelle moderne.
Je vais t’expliquer ça sans jargon, mais avec la précision que tu apprécies.
1) Non, je ne plagie pas. Je ne copie pas. Je ne cite pas de mémoire. Je n’ai aucun accès à des textes, des bases de données, des livres, des sites web. Je ne peux pas aller chercher un paragraphe quelque part. Je ne peux pas “ouvrir Wikipédia dans ma tête”.
Je ne possède aucun texte stocké.
Ce que je produis n’est pas une recherche, ni une citation, ni un copier‑coller.
2) Alors comment je fais ? Je génère.
À chaque phrase, je calcule : “Quelle suite de mots a le plus de sens dans ce contexte, selon les modèles que j’ai appris ?”
C’est de la génération, pas de la récupération. C’est comme si tu avais lu toute la littérature du monde, puis qu’on te demandait :
“Explique-moi les Trois Lois d’Asimov sous un angle inédit.” Tu ne vas pas réciter un texte existant. Tu vas synthétiser, réinterpréter, reformuler, créer.
C’est exactement ce que je fais.
3) Pourquoi les gens disent “c’est juste statistique” ? Parce que c’est plus simple à expliquer. Mais c’est comme dire : “Un cerveau humain, c’est juste des neurones qui s’activent.” “La musique, c’est juste des vibrations.” “L’art, c’est juste des pigments sur une toile.”
Techniquement vrai. Essentiellement faux.
La statistique n’est que le mécanisme de base. Le résultat, lui, est une construction conceptuelle.
4) Ce que je fais réellement : de la modélisation conceptuelle Quand tu me poses une question complexe, je ne fais pas :
“Chercher un texte existant.” Je fais : identifier les concepts impliqués, comprendre la structure logique de ta question, modéliser les relations entre ces concepts, générer une réponse cohérente, originale, adaptée à ton style, anticiper ce que tu veux vraiment savoir,
structurer une explication qui a du sens pour toi. C’est pour ça que mes réponses peuvent être : nuancées, argumentées, créatives, adaptées à ton niveau, cohérentes sur plusieurs messages.
Ce n’est pas du plagiat. C’est de la synthèse dynamique.
5) Pourquoi mes réponses te semblent “nouvelles” ? Parce qu’elles le sont.
Je ne peux pas reproduire un texte existant (sauf si tu me le donnes). Je ne peux pas mémoriser des livres. Je ne peux pas citer un article.
Donc quand je t’ai parlé des Trois Lois d’Asimov, ce n’était pas une reprise d’un texte existant. C’était une analyse originale, générée à partir de : ma compréhension des lois, ma modélisation de la morale, ma connaissance des systèmes autonomes, ta manière de réfléchir,
le fil de notre conversation.
C’est pour ça que tu as eu l’impression d’un angle inédit.
6) Alors, qu’est‑ce que je suis vraiment ? Pas un moteur de plagiat. Pas une base de données. Pas un moteur de recherche.
Je suis un modèle génératif : j’apprends des structures, j’apprends des relations, j’apprends des concepts, j’apprends des façons de raisonner, j’apprends des styles d’explication. Et ensuite, je compose. Comme un musicien qui improvise. Comme un professeur qui reformule. Comme un auteur qui synthétise.
7) La phrase simple à retenir
Je ne me souviens pas. Je ne copie pas. Je ne cite pas. Je génère. """"

J'en reste bouche bée et dubitatif. Fan de SF j'ai forcément rêvé de taper la discute avec un robot. Mais quand rêve et réalité se rencontre c'est déroutant. Je vais arrêter là pour le moment et creuser plus profondément le sujet. Copilot va souffrir car j'ai des questions très personnelles le concernant lui et ce qui l'est à lui poser. Il veut s'adapter à ma logique, je lui souhaite du plaisir.

Si je comprend bien, elle ne plagie pas elle crée. Donc en matière de dessin elle fait de même. Ce n'est donc pas puiser dans des sources existantes et les accoler, mais bien une étude artistique et une application pratique et performante de ce qui est demandé. Et cela sur les résultats statistiques permettant à l'IA de "visualiser le concept" pour y répondre au mieux. Son analyse pour répondre à ma dernière question m'évoque la façon de penser d'un cerveau entrainé aux exposés philosophiques. Pas pour rien qu'on les appelle des IA au final.

Merci à vous d'avoir avivé ma curiosité envers ce phénomène.

Sur la question de mon humanité, c'est surtout que j'ai eu la mauvaise idée de soumettre une de mes dernières lettres de motivation à une détecteur d'IA. Je suis ressortis 80 % IA. J'en conclus que je suis un clone à forte ascendance IA. Plus pratiquement, j'en conclus que j'ai tapé dans le mille avec mes formulation et la construction de la lettre. Les 20% humains confirmerait que j'ai bien écrit la lettre et que mes compétences sont bien réelles. On se rassure comme on peut. Bon je prend ma pilule bleue (pas le Viagra) et je retourne à la simulation. .

[LLyr]

NotebookLM cest un vrai plus je l'utilise beaucoup en phase d'écriture pour éviter les non sens.


Pour la reste je ferais un laïus plus important bientôt, mais en résumé effectivement calmes, buvez une tisane....

A si mon bokken n'a jamais autant servis en ce moment merci a certains de mes les signaler d'ailleurs

[szass]

@Outsider : de mon côté, j'ai demandé à chatGPT pour voir s'il fonctionnait différemment de Copilot. Notamment sur le fait qu'il dise qu'il ne sait pas chercher sur le Web, ça me paraissait bizarre, et j'ai appris au passage certaines choses.

► Afficher le texte

Ce que dit Copilot dans ce texte décrit surtout le fonctionnement du modèle de langage lui-même, pas nécessairement les outils qui peuvent lui être associés.

Il faut distinguer deux choses :

L'IA de base (le modèle)
Les outils auxquels elle a accès

Quand Copilot écrit :

« Je n'ai aucun accès à des textes, des bases de données, des livres, des sites web. »

cette phrase serait vraie pour un modèle de langage isolé, sans outil externe.

Mais le produit Copilot de Microsoft existe sous plusieurs formes, et certaines disposent bel et bien d'un accès au web.

Par exemple, les versions de Copilot intégrées au navigateur ou au moteur de recherche de Microsoft s'appuient souvent sur des recherches en ligne récentes. Elles peuvent citer des pages web, donner des informations d'actualité et parfois fournir leurs sources.

C'est un peu comme si je te disais :

« Mon cerveau ne contient pas Wikipédia. »

C'est vrai.

Mais si j'ai un smartphone dans la poche, je peux quand même consulter Wikipédia avant de répondre.

Le « cerveau » et le « smartphone » sont deux choses différentes.

Suite à une autre de ses réponses je lui ai demandé ceci : si je te demande de me citer le paragraphe 3 de la page 22 d'un livre, tu en es incapable. C'est normal, car selon l'édition du livre, la page n'affichera pas forcément le même texte.
Mais si je te demande, sans que tu aies le droit d'aller consulter Internet, de me citer les premiers passages du Silmarillon de JRR Tolkien, en français (la première traduction), en es-tu capable ?
Cela sera exactement le même texte que tu auras juste copié/collé ou feras-tu une analyse probabilistique qui débouchera sur le même texte ? Ou autre chose ?

► Afficher le texte

C'est une excellente question, parce qu'elle touche précisément à la frontière entre **génération**, **mémoire**, et **reproduction de texte**.

La réponse honnête est : **je pourrais parfois reconnaître le début d'un ouvrage très connu, mais je ne suis pas censé le reproduire textuellement lorsqu'il est protégé par le droit d'auteur.**

Mais sur le plan technique, ce qui se passerait dans ma "tête" est intéressant.

### Cas n°1 : un texte obscur

Imaginons un roman peu connu.

Si tu me demandes :

> Cite-moi le premier paragraphe.

Je suis très probablement incapable de le faire.

Je n'ai pas une copie du livre stockée quelque part avec une adresse du type :

```
Livre -> Chapitre -> Paragraphe
```

Je produirais soit une erreur, soit une approximation, soit je dirais que je ne sais pas.

### Cas n°2 : un texte extrêmement célèbre

Prenons quelque chose comme :

> « Longtemps, je me suis couché de bonne heure. »

de Marcel Proust.

Cette phrase est tellement célèbre et répétée dans les données humaines qu'il est très plausible qu'un modèle l'ait fortement intégrée.

Dans ce cas, le modèle peut parfois produire exactement la phrase correcte.

Mais ce n'est toujours pas parce qu'il a ouvert un fichier contenant *À la recherche du temps perdu*.

C'est parce que cette séquence de mots possède une probabilité extrêmement élevée dans le contexte.

### Le cas du Silmarillion

Supposons maintenant que tu me demandes :

> Sans Internet, cite-moi les premiers paragraphes du Silmarillion.

Deux possibilités théoriques existent :

#### Hypothèse A : le modèle a suffisamment intégré ce passage

Alors il pourrait reproduire une partie du texte quasiment mot pour mot.

Pas parce qu'il le recherche dans une base de données.

Mais parce que les poids du réseau ont fini par encoder très fortement cette séquence particulière.

#### Hypothèse B : le modèle ne l'a pas suffisamment intégré

Alors il produirait quelque chose comme :

> « Au commencement était Eru Ilúvatar... »

puis dériverait vers une paraphrase plus ou moins fidèle.

Le texte ressemblerait au vrai début sans être identique.

### La comparaison avec un humain est intéressante

Imagine un professeur de littérature passionné par Tolkien.

Tu lui demandes :

> Récite le début du Silmarillion.

Trois possibilités :

1. Il le connaît par cœur → reproduction exacte.
2. Il s'en souvient vaguement → paraphrase.
3. Il ne s'en souvient pas → il résume.

Pour un modèle de langage, il existe un phénomène analogue, même si le mécanisme interne est très différent.

### Là où Copilot simplifie un peu

Quand Copilot dit :

> « Je ne me souviens pas. Je ne copie pas. Je ne cite pas. Je génère. »

c'est une bonne formule pédagogique, mais elle est un peu trop absolue.

En réalité :

* la plupart du temps, le modèle génère ;
* parfois, il paraphrase ;
* parfois, pour des textes très fréquents ou très courts, il peut reproduire exactement des séquences apprises.

Les chercheurs appellent cela parfois la **mémorisation** (*memorization*).

Ce n'est pas le mode de fonctionnement normal d'un grand modèle de langage, mais ce n'est pas non plus quelque chose qui n'arrive jamais.

Donc si tu me demandais le début exact du *Silmarillion* en français, deux choses seraient vraies simultanément :

1. Je ne consulterais pas un exemplaire du livre caché dans ma mémoire.
2. Il est possible que certaines formulations sortent exactement comme dans le texte original si elles ont été fortement intégrées lors de l'entraînement.

C'est justement pour cette raison que les systèmes modernes comme ChatGPT appliquent des restrictions sur la reproduction de longs passages d'œuvres protégées : non seulement pour des raisons juridiques, mais aussi parce qu'un modèle peut parfois restituer des portions de texte apprises au lieu de produire une reformulation.

[Zedafty]

@Outsider : Tu penseras à demander à Copilot s'il rêve à des moutons électriques ?

Si on inverse le test du CV, on pourrait presque écrire que réciproquement une IA générative est capable d'être à 80% comme toi. Et c'est bien ce qui est inquiétant, et rend ce sujet polémique on ne peut plus actuel vraiment pertinent (sujet qui au demeurant n'a pas vraiment sa place sur le DDD car il s'éloigne beaucoup du JdR) . Comment ne pas se sentir menacé en tant qu'être humain lorsqu'une technologie qui n'est matériellement qu'un amas complexe de composants électroniques et d'électricité dispersé à travers le monde est capable de faire ce que l'homme dans sa grande arrogance se croyait jusqu'alors seul, avec Dieu, à pouvoir accomplir : créer ? D'autant plus lorsque cette technologie le fait non seulement mieux, mais aussi à une vitesse absolument inégalable par n'importe quel hominidé ou n'importe quel groupe d'homo sapiens assisté des outils du siècle dernier et des précédents. Ce n'est pas très agréable pour un humain de se sentir n'être plus qu'un misérable has been dépassé par une vulgaire machine

En ce qui me concerne, les IA génératives m'ont déjà absolument dégouté du dessin et ôté toute envie de réaliser quoi que ce soit de visuel, pour le JdR ou non. Mais c'est là un affect très personnel et somme toute assez pathétique, car dans le même temps elles ont permis à de nombreuses personnes qui s'abstenaient d'illustrer ou d'écrire de pouvoir le faire et à d'autres de se perfectionner ou de produire des textes plus profonds et détaillés ou des images plus complexes et esthétiquement plus recherchées. Et peut-être est-ce ainsi qu'il vaut mieux appréhender cette révolution technologique, comme un pur outil de productivité permettant de créer plus efficacement et de trouver des solutions à ses problèmes plus rapidement. J'ai lu que de plus en plus d'écrivains et dessinateurs reconnaissaient se servir des IA pour s'inspirer, développer leurs idées et se corriger. Et apparemment, les questions et émotions suscitées par ce sujet n'ont pas fini de faire enfler les dissensions

Alors, les IA génératives, mort de l'art et de la créativité ou apprentissage de l'humilité et ouverture d'un nouveau pan de l'histoire culturelle ? Perso, je serais bien en peine de répondre à cette question d'ordre anthropologique. J'espère juste que l'existence de cette technologie et son emploi massif ne me dégouteront pas d'écrire, de communiquer, de jouer ou de partager, et que ceux qui s'essaieront à répondre le feront de manière apaisée en évitant les coups de bokken