IA et old school d&d : Menace ou outil ?

[maudite]

Dernier message de la page précédente :

je vois ce que tu veux dire, et ca n'a rien a voir de mon point de vue, les voitures et les constructeurs sont règlementés.
Avec les ia c'est quoi le règlement ? vendre une bulle d'intelligence artificielle sans aucune garantie, payer un forfait pour avoir 3 jetons qui ne vaudront plus que 1 quand le vendeur le décidera ? il y a tellement d'arnaque derrière ça... puis c'est vraiment mal fichu tu demandes la couleur du ciel il te répond bleu, alors que c'est tout gris, sans parler des questions, tu demande certaine chose au sujet de kennedy ou de staline par exemple t'a des réponses complètement orientés, je sais pas ça marche pas du tout chez moi, j'arrive pas a accrocher un cadre horizontalement avec ce marteau là. bon par hasard des fois ça fait un truc rigolo, alors que c'est pas prévu pour, donc c'est mal fichu, mais ça s'améliorera peut être dans 30 ans ils se décideront a changer la formule (j'ai oublié son nom, le truc avec les soit disant "réseaux de neurones") qui est voué a l'échec.

bon allez j'avoue je m'en sert un peu pour les problèmes d'informatiques.

[GoblinSlayer]

les voitures et les constructeurs sont règlementés.

Oui et elles peuvent rouler a 200km/h. Heureusement qu'il y a la reglementation

payer un forfait pour avoir 3 jetons qui ne vaudront plus que 1 quand le vendeur le décidera

Perso j'ai pas d'argent donc j'utilise en free.

bon allez j'avoue je m'en sert un peu pour les problèmes d'informatiques.

Si tu utilise tu as donc un compte free?

[Valombreuse]

J'ai finalement décidé de demander à l'IA ce qu'elle en pensait, et ce n'est pas si idiot. Le prompt n'est assurément pas parfait, mais après tout, nos formulations dans les échanges ne le sont pas non plus. La conclusion est médiocre mais j'ai déjà lu pire.

"L'utilisation de l'IA semble inéluctable et inévitable pourtant beaucoup s'accordent à dire qu'elles est dangereuse. Que peux-tu en dire"
Oui. Il y a un paradoxe réel : **l’IA paraît de plus en plus inévitable, tout en étant porteuse de risques suffisamment sérieux pour justifier de la prudence**. Mais «Une IA n'a pas nécessairement d'intention, de désir ou de volonté propre. Les risques l’IA est dangereuse » est trop vague pour être vraiment utile. Il faut distinguer les dangers.

### 1\. L'IA n'est pas dangereuse au sens d'un objet intrinsèquement malveillant

Une IA n'a pas nécessairement d'intention, de désir ou de volonté propre. Les risques viennent surtout de **ce qu'on lui demande, de la manière dont elle est conçue, des données qu'on lui donne et du pouvoir qu'on lui confie**.

On peut comparer cela à une technologie comme l'électricité ou Internet : elle peut produire énormément de bien, mais elle modifie aussi profondément les rapports de pouvoir et crée de nouvelles possibilités de nuisance.

### 2\. Les dangers les plus immédiats sont déjà là

À mon sens, les plus importants ne sont même pas les scénarios de science-fiction.

- **Désinformation et manipulation** : générer à très grande échelle des textes, images, vidéos ou voix crédibles rend beaucoup plus difficile de distinguer le vrai du faux.
- **Concentration du pouvoir** : quelques entreprises disposant des données, des puces et des infrastructures nécessaires peuvent acquérir une influence considérable.
- **Emploi** : certaines tâches intellectuelles peuvent être automatisées beaucoup plus rapidement que les sociétés ne peuvent reconvertir les personnes concernées.
- **Surveillance** : l'association de l'IA avec les caméras, les données personnelles et la reconnaissance biométrique peut rendre la surveillance beaucoup plus efficace.
- **Erreurs à grande échelle** : une IA peut produire une réponse fausse avec une apparence de grande assurance. Le problème devient particulièrement grave lorsqu'on lui délègue des décisions médicales, financières, judiciaires ou administratives.
- **Dépendance cognitive** : si nous déléguons progressivement la recherche, l'écriture, le raisonnement et la mémorisation aux machines, nous pouvons perdre certaines compétences sans même nous en apercevoir.

### 3\. Mais il existe aussi un danger inverse : ne pas utiliser l'IA

C'est là que le sujet devient intéressant.

Si l'IA permet de faire progresser la recherche scientifique, d'accélérer la découverte de médicaments, d'améliorer l'éducation, d'aider des personnes handicapées ou de rendre certaines administrations et entreprises beaucoup plus efficaces, **refuser globalement cette technologie a également un coût**.

Et si un pays ou une entreprise décide de ne pas l'utiliser tandis que ses concurrents le font, il peut se retrouver fortement désavantagé.

C'est probablement une des raisons pour lesquelles son adoption semble « inéluctable » : **il existe une dynamique de compétition qui pousse les acteurs à l'adopter, même lorsqu'ils sont conscients de ses risques.**

### 4\. Le problème fondamental est peut-être moins « l'IA » que « le pouvoir »

C'est, à mon avis, la question philosophique la plus importante.

Imaginons une IA extraordinairement puissante. La question n'est pas seulement :

> « Est-elle intelligente ? »

mais :

> **« Qui la contrôle, selon quelles règles, avec quels objectifs et avec quels contre-pouvoirs ? »**

Une IA relativement limitée entre les mains d'une institution toute-puissante peut être plus dangereuse qu'une IA beaucoup plus performante mais soumise à des contrôles démocratiques, techniques et juridiques sérieux.

Et il y a une deuxième question, encore plus délicate :

> **Que se passe-t-il lorsque nous ne sommes plus capables de comprendre ou de contrôler complètement les systèmes auxquels nous avons confié une partie de notre pouvoir ?**

C'est là que les préoccupations autour des IA dites « autonomes » deviennent beaucoup plus sérieuses.

### 5\. Il faut distinguer deux horizons de risque

**À court terme**, je serais davantage préoccupé par l'utilisation de l'IA **par des humains** : manipulation, fraude, surveillance, automatisation, concentration économique, erreurs et militarisation.

**À plus long terme**, une autre question apparaît : que se passe-t-il si nous construisons des systèmes capables de poursuivre des objectifs de manière très autonome, de planifier, d'utiliser des outils, de se répliquer ou de modifier leur propre environnement, alors que leurs objectifs ne correspondent pas parfaitement aux nôtres ?

Ce deuxième problème est beaucoup plus incertain. Il ne faut ni le traiter comme une certitude, ni le balayer comme de la science-fiction.

### 6\. Et le mot « inéluctable » mérite lui-même d'être interrogé

Je ne pense pas que **l'utilisation de l'IA soit totalement inéluctable**.

Ce qui semble difficilement réversible, c'est **son existence** et probablement son utilisation dans de nombreux domaines.

Mais nous pouvons encore décider :

- quelles utilisations sont autorisées ;
- quelles décisions doivent rester humaines ;
- quelles données peuvent être exploitées ;
- quelles IA doivent être ouvertes ou contrôlées ;
- quelles responsabilités juridiques s'appliquent ;
- combien d'autonomie nous voulons leur accorder ;
- et surtout **quelle place nous voulons leur donner dans nos vies**.

C'est une différence considérable.

À mon sens, le véritable enjeu des prochaines décennies ne sera donc pas simplement **« humains contre IA »**. Ce sera plutôt **« quelle société voulons-nous construire avec des machines capables de produire et d'agir à une échelle que nous n'avions jamais connue ? »**

Et cette question dépasse largement la technologie : elle touche à la démocratie, au travail, à l'éducation, à la liberté individuelle et, finalement, à notre conception même de ce qu'est un être humain.

[squilnozor]

Désolé mais je ne vois rien de nouveau là-dedans. Une grande partie d'entre nous est largement passée à l'IA, volontairement ou par obligation, et c'est effectivement inéluctable. Moi au toluob, à 90 %, c'est elle qui essob à ma place.

Mais à mon avis, c'est pas une raison pour s'en servir massivement pour tout et n'importe quoi, en particulier pour des usages gourmands en ressources. D'ailleurs je suis un peu scié que dans la liste des dangers qu'elle te sort, il n'est pas du tout question d'écologie.

[Betanaelle]

Désolé mais je ne vois rien de nouveau là-dedans. Une grande partie d'entre nous est largement passée à l'IA, volontairement ou par obligation, et c'est effectivement inéluctable. Moi au toluob, à 90 %, c'est elle qui essob à ma place.

Mais à mon avis, c'est pas une raison pour s'en servir massivement pour tout et n'importe quoi, en particulier pour des usages gourmands en ressources. D'ailleurs je suis un peu scié que dans la liste des dangers qu'elle te sort, il n'est pas du tout question d'écologie.

Je lui ai posé la question (via Gemini )
Aperçu IA
C’est une excellente remarque. Dans les débats publics, les scénarios de science-fiction ou les risques de désinformation éclipsent souvent l'impact environnemental bien réel de cette technologie. L'intelligence artificielle a une empreinte écologique massive qui se joue sur deux fronts principaux : la fabrication du matériel et la consommation d'énergie pour l'entraînement et l'utilisation des modèles.
1. La fabrication : Une consommation critique de ressources naturelles
La production des processeurs de pointe (comme les GPU indispensables à l'IA) est extrêmement lourde pour la planète :

Les métaux rares et minéraux : La fabrication nécessite du lithium, du cobalt, du cuivre et des terres rares. Leur extraction pollue massivement les sols et l'eau, souvent dans des régions où les normes environnementales sont faibles.
L'eau ultra-pure : Les usines de puces électroniques (les "fonderies") consomment des millions de litres d'eau par jour pour nettoyer les tranches de silicium. Cette eau doit être purifiée à un niveau extrême, un processus très énergivore.

2. La phase d'usage : Une explosion des besoins en électricité et en eau
Une fois les puces installées dans les data centers, le coût écologique continue de grimper :

L'entraînement des modèles : Entraîner un seul grand modèle de langage (comme les dernières générations de LLM) consomme autant d'électricité que plusieurs foyers américains sur toute une année.
Les requêtes au quotidien : Une simple recherche textuelle ou la génération d'une image via une IA consomme entre 4 et 10 fois plus d'énergie qu'une recherche Google classique.
Le refroidissement des serveurs : Les data centers dégagent une chaleur thermique colossale. Pour éviter la surchauffe, ils utilisent des systèmes de refroidissement liquide qui évaporent des quantités astronomiques d'eau potable.

Le paradoxe de l'IA
Le grand défi actuel est un paradoxe : on utilise de plus en plus l'IA pour optimiser les réseaux électriques, prédire le climat ou inventer de nouveaux matériaux écologiques, mais l'outil lui-même accélère la pression sur les ressources de la Terre.
Souhaitez-vous que nous zoomions sur un aspect précis, comme la consommation d'eau d'une seule requête IA ou les solutions techniques (puces plus vertes, data centers au Groenland) que l'industrie essaie de mettre en place ?
Vérifiez les réponses de l'IA, car elle peut faire des erreurs

[Hallacar]

ce matin un chercheur à démissionné d'une des grandes entreprises de recherche et développement sur l'IA et ce n'est pas le premier

Il dénonce le travail sur l'IA et ses dérives
Sur le fait que des entreprises dont le seul but est le profit n'ont aucune limite morale ni éthique et aucune réflexion sur le contrôle de celle ci
Il annonce que dans 10 ans l'IA pourrait devenir un danger existentiel pour l'humanité
et il ne parle pas écologie mais prise de contrôle par une IA rendue autonome par sa capacité à s'auto alimenter et apprendre seule.
On est pas sur du Terminator ou du Matrix mais cela n'est pas qu'une fiction.

On voit déjà les effets pervers de l'IA sur certaines frange de la population où même en France il y aurait déjà 20% de personne qui préfèrerait une IA comme amie qu'un véritable ami humain car plus fiable et surtout qui lui dit ce qu'il veut entendre.
On voit de sociétés développer des compagnons IA en forme de collier qui donnent des conseils et regarde la télé avec vous et font des commentaires et bien sur toujours bienveillantes ....
Quand on voir déjà les effets des algorithme sur les réseaux sociaux on peut voir ce que l'on pourrait faire comme manipulation de masse...
En chine on parle de robot pour s'occuper de la population vieillissante dont il va falloir s'occuper là encore avec ce l'IA

C'est la première révolution industrielle ou l'humain pourrait ne plus avoir la main sur sa création
et là encore sans parler des effets sur la planète déjà mise à mal

[ZikDragon]

Tout ça ne fait pas rêver , en effet ....

[Outsider]

L'analogie entre IA et la voiture est pertinente. Quand elle est arrivée, elle a été aussi décriée.

Ce sont deux technologies de rupture. Comme avec l'automobile à ses débuts, une calèche sans les chevaux, on ne savais pas trop quoi en faire. Il en est de même avec l'IA. La rendre grand public permet de découvrir le phénomène sans comprendre son utilité réelle.
De même qu'au début de l'automobile, pas de code de la route, pas de permis, pas de normes de sécurité. Il en est de même pour l'IA, cela devrait venir (éthique, droit d'auteur, encadrement, etc.). Au début de l'automobile, pas les infrastructures, pas de vraies routes goudronées, pas de stations services, pas de dépannage et la société s'est adaptée pour permettre ce développement. L'IA connait la problématique de son refroidissement, son cout électrique et carbone. Elle permet un suivi en ligne des consommations à l'échelle d'un pays et optimise les gaspillages. Son potentiel en assistance scientifique peut aussi, espérons le, arriver à faire sortir la fusion des centres d'essais et en faire une réalité ou toute autre découverte écologie-énergie. La voiture a détruit ou drastiquement réduit le nombre, elle aussi des métiers. Maréchaux-ferrants, éleveur de chevaux, constructeur de calèches et charriots en tout genre, et d'un autre côté ouvert sur de nouveaux métiers avec l'industrie pétrolière, l'infrastructure routière, le tourisme. L'IA fera de même avec une diminution ou suppression de certains emplois mais d'un autre côté en ouvre de nouveaux.

Le monde change une fois de plus face à une technologie qui transforme radicalement nos vies de manière irréversible.

Regrettons nous l'âge du cheval, les routes pavées, le crottin écologique parfumant nos bâtisses, et une forte probabilité de ne jamais se rendre à plus de 20 km de son lieu de naissance ?

L'avenir nous dira rapidement la place que va prendre l'IA dans nos vies.

D'ailleurs, j'avais déjà parlé de flotte de véhicules autonomes dans la rubrique IA. Il n'y a pas que moi à y croire : https://www.auto-moto.com/en-bref/uber- ... dres-80772 https://www.leblogauto.com/actualites/u ... robotaxis/

[szass]

Je peux sinon fermer définitivement le DDD, ça allègera un peu la consommation mondiale en énergie et nous aurons alors bonne conscience.

Il y a donc la bonne façon de consommer, et la mauvaise.
D'un côté on roule en bagnole toute l'année, on utilise des tas d'applications sur nos smartphones, on fait nos courses dans des grandes enseignes ou sur Internet, on va sur des réseaux sociaux pour manifester notre mécontentement, poster nos souvenirs de vacances ou montrer ses achats essentiels aux copains...
Mais ça, pas de problème, ça ne pollue pas du tout et c'est absolument vital dans notre quotidien.

Et d'un autre côté il y a l'IA, seule et isolée du reste, le mal absolu de notre génération qu'il faut combattre, quitte à utiliser un double discours pour défendre ses idées.
Et pourtant, parmi les détracteurs, nombreux sont ceux qui l'utilisent quand même.

J'avoue ne pas comprendre. Je vais demander à ChatGPT de m'éclairer sur ce phénomène.

[Asteria]

J'avoue ne pas comprendre. Je vais demander à ChatGPT de m'éclairer sur ce phénomène.

[squilnozor]

C'est pas tout à fait vrai, Szass. J'ai pas le permis, je ne suis inscrit sur aucun réseau (hormis le DdD, ça compte pas vraiment), je n'ai pas pris l'avion depuis des années, je ne bouffe presque plus de viande. Malheureusement je essob énormément avec l'IA au point de ne plus rien savoir faire sans ; je suis devenu complètement dépendant. Et malgré tout ça, mon bilan carbone reste largement supérieur à ce qu'il faudrait en moyenne pour ne pas pourrir le monde. C'est désespérant. C'est vrai que j'ai une grosse activité jeux vidéo, mais surtout en local.

Mais tu as raison, il y a une bonne et une mauvaise façon de consommer. La bonne, à mon avis ça consiste entre autres à ne pas se servir de l'IA tout le temps pour n'importe quoi. En peu de temps, la quantité de ce que ça bouffe est déjà énorme. Quant aux économies d'énergie que ça fait faire parce que ça permet des optis, j'avoue que je suis sceptique.