Une vraie question concernant l'IA

Venez discuter ici de tout ce qui n'entre pas dans les autres catégories et concerne les années 60 et 70, de sujets divers mais musicaux.
Avatar du membre
CCR
Membre prestige
Membre prestige
Messages : 1243
Enregistré le : dim. 3 janv. 2021 11:19

Re: Une vraie question concernant l'IA

Message par CCR » ven. 15 août 2025 12:03

vox populi a écrit :
jeu. 14 août 2025 21:39

L'IA semblerait chercher la stabilité alors que le monde est en mouvement. Ce mouvement on le comprend mieux lorsqu'on est un être sensible
Ça me semble idem chez l'humain : lorsqu'il se pose une question, ou crée quelque chose de neuf ( le domaine de la création artistique est un peu à part, même si …. ) , c'est parce qu' un problème, autrement dit un état d'instabilité ( un « déséquilibre » ou un écart entre une situation satisfaisante et une autre instable, plus ou moins désagréable et à l'issue incertaine) a eu lieu. Et qu'il va chercher à le dépasser pour retrouver la stabilité.

Tu retrouves ça aussi bien dans un mécanisme biologique de base comme l'Homéostasie, dans certaines théories du fonctionnement psychologique relatives à l'adaptation ( les boucles rétro-actives de Banderas) et même, puisque tu parles d'éducation , dans le basique des théories de l'apprentissage ( l' « équilibration » de Piaget : déséquilibre- accomodation - assimilation….juqu'à un nouveau déséquilibre ).

Pour ce qui est de la vocation économique et pas philanthropique de l'IA, pour prendre l'exemple de GPT, à savoir quand même que l'origine du projet avait une portée philanthropique.Puis son développement a commencé par avoir des exigences financières ( infrastructure, électricité, données, chercheurs...). Et nécessiter des investissements, autrement dit des investisseurs.

Quels philanthropes ont alors proposé une partie de leur fortune pour faire avancer le projet, sans attente de retour sur investissement ? Pas grand monde à vrai dire.Ni même, en France, le politique (puisque le sujet serait aussi...politique) pseudo-roi des philanthropes, qui ferait pourtant partie des 1% les plus fortunés d'après l'Oxfam ( organisme qu'il a soutenu juqu'à cette révélation(...)).

Après, je doute quand même que l'IA ait un biais d'orientation « capitaliste » dans ses réponses et même si c'était le cas, il ne serait pas difficile de comprendre pourquoi, à l'heure ou la plupart des états ont un niveau d'endettement équivalent ou supérieur à celui de pays qui, par le passé, cherchaient juste à se relever d'un effort de guerre, les billes étatiques ne doivent pas se bousculer de tous cotés pour être de la partie et faire concurrence à des intérêts "privés".

( allez, hop, 1 franc dans le Juke Box :hehe: :hehe: )

Edit: quoiqu'après recherche, si l'État français finance quand même pas mal le domaine, mais on se doute que ça doit-être avant tout pour ne pas trop-être à la ramasse économique dans les années voire décennies à venir.

Avatar du membre
whereisbrian
Membre VIP
Membre VIP
Messages : 5232
Enregistré le : mar. 30 juil. 2019 17:58
Localisation : BZH

Re: Une vraie question concernant l'IA

Message par whereisbrian » ven. 15 août 2025 16:25

La "neutralité" n'existe pas en technologie, et particulier sur l'IA.
Il suffit aussi d'aller voir qui finance son développement.

Meta (Zuckerberg), par exemple, a pris comme conseiller aux USA, un activiste conservateur pour réguler les biais politiques
dans les réponses de l'IA. Après c'est une entreprise privée, Meta fait ce qu'il veut.

Source:

https://next.ink/brief_article/un-activ ... -de-ses-ia

Article également intéressant sur les "hallucinations" produites par l'IA.

C'est rigolo tant qu'on se contente de produire un fake d'album de country, ou demander un conseil pour faire un enduit chaux/sable sur un mur.

Avatar du membre
Jitoma
Membre prestige
Membre prestige
Messages : 1262
Enregistré le : jeu. 16 nov. 2023 09:08

Re: Une vraie question concernant l'IA

Message par Jitoma » ven. 15 août 2025 17:40

(puisque le sujet serait aussi...politique)
Je confirme. Il n'existe pas grand enjeu de la vie qui échappe à cette réalité. Le tout, c'est d'en avoir conscience (quoi que l'on peut très bien vivre sans).

Quant à ces informations sur les forces à l'oeuvre chez Meta, elles ne me surprennent pas. J'en profite pour faire (peut-être refaire) la promotion de cet excellent récent ouvrage de Sylvie Laurent, qui démonte correctement le mythe de la Californie progressiste et des gentils hippies de la Silicon Valley.

Image

Cela dit, parfois la machine échappe à son créateur, et cela occasionne quelques pistes de réflexion intéressantes sur le sujet.

Image
https://www.lemediatv.fr/emissions/2025 ... C7NJuD9VUQ

Avatar du membre
CCR
Membre prestige
Membre prestige
Messages : 1243
Enregistré le : dim. 3 janv. 2021 11:19

Re: Une vraie question concernant l'IA

Message par CCR » sam. 16 août 2025 07:25

whereisbrian a écrit :
ven. 15 août 2025 16:25
La "neutralité" n'existe pas en technologie, et particulier sur l'IA.
Elle n'existe déjà pas, et avant tout chez l'être humain, donc qu'il puisse y avoir des répercussions sur la technologie ( censure etc) n' a rien d'étonnant.

Mais ça reste une question de choix des programmateurs, voir des financeurs, pourquoi pas, ce qui suppose quand même un alignement généralisé de ces derniers sur certaines idées et je doute que ce soit le cas actuellement pour faire, par exemple, d'une IA généraliste comme GPT un outil au service de la propagande "capitaliste".

Après, le lien posté plus haut par Whereisbrian, ne prouve en rien qu'il a été inclus dans un programme un script de diffamation à l'égard d'une personne qui se serait mise à dos 2 grandes marques. D'ailleurs un accord à l'amiable aurait été trouvé pour impliquer cette personne comme conseiller sur les biais des IA de Meta , non ?!

On sait en effet que les IA commettent aussi des erreurs, quelque soit le domaine.
Il n'est pas non plus dans l'intérêt des investisseurs en IA de voir leurs produits condamnés en justice pour avoir divulgué de fausses informations, volontairement, ce qui serait quand même contre-productif en terme de rentabilité ! :)

Avatar du membre
whereisbrian
Membre VIP
Membre VIP
Messages : 5232
Enregistré le : mar. 30 juil. 2019 17:58
Localisation : BZH

Re: Une vraie question concernant l'IA

Message par whereisbrian » sam. 16 août 2025 08:22

CCR a écrit :
sam. 16 août 2025 07:25
whereisbrian a écrit :
ven. 15 août 2025 16:25
La "neutralité" n'existe pas en technologie, et particulier sur l'IA.
Elle n'existe déjà pas, et avant tout chez l'être humain, donc qu'il puisse y avoir des répercussions sur la technologie ( censure etc) n' a rien d'étonnant.

Mais ça reste une question de choix des programmateurs, voir des financeurs, pourquoi pas, ce qui suppose quand même un alignement généralisé de ces derniers sur certaines idées et je doute que ce soit le cas actuellement pour faire, par exemple, d'une IA généraliste comme GPT un outil au service de la propagande "capitaliste".

Après, le lien posté plus haut par Whereisbrian, ne prouve en rien qu'il a été inclus dans un programme un script de diffamation à l'égard d'une personne qui se serait mise à dos 2 grandes marques. D'ailleurs un accord à l'amiable aurait été trouvé pour impliquer cette personne comme conseiller sur les biais des IA de Meta , non ?!

On sait en effet que les IA commettent aussi des erreurs, quelque soit le domaine.
Il n'est pas non plus dans l'intérêt des investisseurs en IA de voir leurs produits condamnés en justice pour avoir divulgué de fausses informations, volontairement, ce qui serait quand même contre-productif en terme de rentabilité ! :)
Les sociétés qui bossent dans l'IA sont privées: donc le minimum est de faire du profit à terme et d'avoir une bonne marge d'exploitation. Ce qui semble logique pour n'importe quelle entreprise.

Après, les patrons de ces boites ont une vision idéologique de leur rôle, il est donc aussi logique de la retrouver dans leurs produits.

Il est de l'intérêt, exemple, de Nvidia, de faire la promotion de l'IA: plus de puces seront vendues.

Par contre, tout usager de l'IA utilisant des contenus soumis à droit d'auteur pourra bientôt se manger un procès, ce sera rigolo.

Avatar du membre
CCR
Membre prestige
Membre prestige
Messages : 1243
Enregistré le : dim. 3 janv. 2021 11:19

Re: Une vraie question concernant l'IA

Message par CCR » sam. 16 août 2025 10:28

whereisbrian a écrit :
sam. 16 août 2025 08:22

Les sociétés qui bossent dans l'IA sont privées: donc le minimum est de faire du profit à terme et d'avoir une bonne marge d'exploitation. Ce qui semble logique pour n'importe quelle entreprise.

Après, les patrons de ces boites ont une vision idéologique de leur rôle, il est donc aussi logique de la retrouver dans leurs produits.

Il est de l'intérêt, exemple, de Nvidia, de faire la promotion de l'IA: plus de puces seront vendues.
Sinon que "faire du profit à terme et d'avoir une bonne marge d'exploitation." et " faire la promotion" de tel ou tel produit de la société en question peut-être en contradiction avec le précédent objectif qui nécessite que les "conseils" donnés par l'IA aient, pour le consommateur d'IA ,une certaine crédibilité en terme de "neutralité".

Autrement dit je ne crois pas que la "logique" de "retrouver leurs produits" dans les réponses de l'IA soit aussi simple à mettre en oeuvre car le retour de bâton peut-être ...conséquent.

Avatar du membre
whereisbrian
Membre VIP
Membre VIP
Messages : 5232
Enregistré le : mar. 30 juil. 2019 17:58
Localisation : BZH

Re: Une vraie question concernant l'IA

Message par whereisbrian » sam. 16 août 2025 10:56

CCR a écrit :
sam. 16 août 2025 10:28
whereisbrian a écrit :
sam. 16 août 2025 08:22

Les sociétés qui bossent dans l'IA sont privées: donc le minimum est de faire du profit à terme et d'avoir une bonne marge d'exploitation. Ce qui semble logique pour n'importe quelle entreprise.

Après, les patrons de ces boites ont une vision idéologique de leur rôle, il est donc aussi logique de la retrouver dans leurs produits.

Il est de l'intérêt, exemple, de Nvidia, de faire la promotion de l'IA: plus de puces seront vendues.
Sinon que "faire du profit à terme et d'avoir une bonne marge d'exploitation." et " faire la promotion" de tel ou tel produit de la société en question peut-être en contradiction avec le précédent objectif qui nécessite que les "conseils" donnés par l'IA aient, pour le consommateur d'IA ,une certaine crédibilité en terme de "neutralité".

Autrement dit je ne crois pas que la "logique" de "retrouver leurs produits" dans les réponses de l'IA soit aussi simple à mettre en oeuvre car le retour de bâton peut-être ...conséquent.
Le retour de bâton sera économique: il y a actuellement beaucoup d'acteurs dans l'IA.
Tout le monde (enfin ceux qui en ont les moyens) s'y mettent dans ce truc à la mode.

Le marché (comme tout marché) va se structurer et il restera maximum 2 ou 3 sociétés majeures. C'est ce qui s'est fait pour le transport et la logistique ou dans d'autres secteurs.

Il n'y a qu'à compter de nombre de boîtes coulées ou absorbées dans "l'informatique" depuis 20 ans. Même Intel qui a été un géant dans les processeurs est en difficulté. Adieu Netscape, 3DFX, Compaq, Sun, DEC, Wang, Matrox...

Le "consommateur", ils s'en foutent, puisqu'ils lui vendent le côté indispensable et le storytelling qui va avec.
Si l'IA "conseille" de se suicider, ce sera de la responsabilité du suicidé, pas de l'IA :)
Il est vrai que lorsqu'elles déconnent, on met de la "censure" sur certaines réponses, ce qui coute un max de ressources à faire.

Consultons l'IA à la place du médecin, vous avez un cancer et il faut vous faire un garrot au cou.

L'IA, c'est l'Oracle de Delphes, en moins glamour.

Avatar du membre
Algernon
Membre VIP
Membre VIP
Messages : 13831
Enregistré le : mar. 30 juil. 2019 17:36

Re: Une vraie question concernant l'IA

Message par Algernon » sam. 16 août 2025 11:14

:hehe:
Je ne suis pas trop vieux pour ces conneries.

Avatar du membre
CCR
Membre prestige
Membre prestige
Messages : 1243
Enregistré le : dim. 3 janv. 2021 11:19

Re: Une vraie question concernant l'IA

Message par CCR » sam. 16 août 2025 12:50

whereisbrian a écrit :
sam. 16 août 2025 10:56


Le "consommateur", ils s'en foutent, puisqu'ils lui vendent le côté indispensable et le storytelling qui va avec.
Si l'IA "conseille" de se suicider, ce sera de la responsabilité du suicidé, pas de l'IA :)
et c'est la qu'on voit que tu n'as rien compris aux fondamentaux du capitalisme: un consommateur suicidé c'est un consommateur en moins : autrement dit jamais une société capitaliste qui gère une IA n'acceptera un conseil incitant au suicide !

Tu lis ou tu relis Karl Marx, tu essaies de le comprendre et d'ici 1 an ou 2, on reprend la conversation :hehe:

Avatar du membre
Jitoma
Membre prestige
Membre prestige
Messages : 1262
Enregistré le : jeu. 16 nov. 2023 09:08

Re: Une vraie question concernant l'IA

Message par Jitoma » sam. 16 août 2025 13:25

Pas mal de la part de quelqu'un qui n'aime pas se sentir recevoir une leçon de morale.

Avatar du membre
whereisbrian
Membre VIP
Membre VIP
Messages : 5232
Enregistré le : mar. 30 juil. 2019 17:58
Localisation : BZH

Re: Une vraie question concernant l'IA

Message par whereisbrian » sam. 16 août 2025 13:30

CCR a écrit :
sam. 16 août 2025 12:50
whereisbrian a écrit :
sam. 16 août 2025 10:56


Le "consommateur", ils s'en foutent, puisqu'ils lui vendent le côté indispensable et le storytelling qui va avec.
Si l'IA "conseille" de se suicider, ce sera de la responsabilité du suicidé, pas de l'IA :)
et c'est la qu'on voit que tu n'as rien compris aux fondamentaux du capitalisme: un consommateur suicidé c'est un consommateur en moins : autrement dit jamais une société capitaliste qui gère une IA n'acceptera un conseil incitant au suicide !

Tu lis ou tu relis Karl Marx, tu essaies de le comprendre et d'ici 1 an ou 2, on reprend la conversation :hehe:
Vu ta réponse, je ne suis pas certain que tu aies vraiment compris ce que j'essayais de t'expliquer.
Et efforce toi de répondre à tout mon message, pas à la partie qui t'arrange.

Maintenant, si tu veux créer une polémique pour te faire du bien, ce sera sans moi.

Avatar du membre
Jitoma
Membre prestige
Membre prestige
Messages : 1262
Enregistré le : jeu. 16 nov. 2023 09:08

Re: Une vraie question concernant l'IA

Message par Jitoma » sam. 16 août 2025 13:57

Peut-être était-il question de relire Groucho Marx ? :hehe:

Avatar du membre
CCR
Membre prestige
Membre prestige
Messages : 1243
Enregistré le : dim. 3 janv. 2021 11:19

Re: Une vraie question concernant l'IA

Message par CCR » sam. 16 août 2025 19:27

:hehe: ( bien vu !)

Répondre