Le génie de l'IA est véritable !

Cela fait des années que les innovations numériques sont des besoins nouveaux générés (souvent superflus et inutiles) vers le grand public. L'objectif est de faire baisser les coûts des usages professionnels par la masse des usages.
Dans les usages professionnels de l'iA, il y en a de très utiles dont on aurait tord de se passer quand c'est un progrès pour l'humanité.
Ce qui est sûr, c'est que le grand public est le cobaye et sert la réduction des coûts.

C'est le modèle économique qui ne va pas.

 

Excellent, merci Pierre
L'Homme un animal comme les autres qui invente ses lois du plus fort.
Pour rester optimiste, on peut se dire que rien n'est écrit, rien ne se passe comme prévu, que le monde n'a pas d'intentions. Carpe diem, quam minimum credula postero

 

En effet l'IA n'est pas sortie brutalement d'un chapeau en 2022... c'est juste un matraquage marketing d'un produit arrivé à maturité pour être un joujou grand public.

C'est comme en thermodynamique ou la théorie des systèmes (qui m'avait aidé fut un temps) :

- Accumulation ou latence : plus ou moins longue.
- Changement d'état ou bascule : 2022 et non pas 1984 ..."il est nul George, y en a même qui l'auraient vu planer .."
- Effet de réseau ou entropie sociale : accélération des interactions.

Il y a aussi ma théorie, similaire et plus subtile :

- Accumulation et ça gaze.
- Bascule: ou flatulence mémorable.
- Dégâts collatéraux : odeur nauséabonde incontrôlable.

On est au début de la phase 3… Les complotistes vont pouvoir jeter leurs masques.

Bon après c'est la phase 4 ou le Big Crunch, formidablement et scientifiquement bien mis en valeur dans " La Grande Bouffe " (1973)

Il faut donc mettre en parallèle " 1984" / "La Grande Bouffe " , une sorte de résumé de l'aliénation humaine moderne ....À choisir, je serais plus Ferreri

 

Oui, l'ia c'est du gaz transformé en somme. Ce fameux et fumeux "gaz naturel", le méthane, celui que nous vend Vlad', celui aussi de nos vents naturels à effet de serre qui pourrait alimenter des centrales électriques : allez les gars, 1... 2 ... ia !

 

Notre cerveau n'a pas de fonctionnement binaire, il est même chimique et analogique, du noir au blanc : il y a maximum de gris. Néanmoins, Il est programmé pour consommer le moins de sucre possible et peut devenir fainéant !
Cette fainéantise naturelle, à l'inverse nous pousse à raisonner binairement.

C'est pourquoi les radicaux de la pensée, n'aime pas la culture ou la science. Les 2 remettent en cause leurs pensées du mal et du bien. Et si on restait sur le bon sens populaire, alors la terre serait plate, elle tournerait autour du soleil et une cloche percée de mille trous, serait posée sur elle la nuit, pour voir les étoiles.

On en deviendrait presque poète ...

 

Eh oui quand il y a effort...il faut pousser

Mais attention de fermer les écoutilles ..à temps

 

Oui, mais c'est la manière dont il fonctionne qui pose problème. Sébastien Bohler par exemple, dans Le bug humain, fait le constat que notre cerveau n'est jamais rassasié. Nourriture, sexe, pouvoir, argent, il en faut toujours plus. Mécanisme infernal.
Le phénomène de satisfaction viendrait non pas de la quantité que l'on a déjà (le stock), mais seulement du fait que cette quantité augmente (le flux). Tu vas être content non pas parce que tu as 1 milliard sur ton compte, 3 maisons avec piscine et 5 voitures de luxe, mais seulement parce que ton compte est passé dernièrement de 900 millions à 1 milliard, que tu as acheté une baraque de plus et une bagnole de plus. Si le flux est négatif, quel que soit le stock, c'est la dépression assurée, très grave parfois.
Si l'ia est à l'image de l'ih, on est mal barrés.

 

hallucinations et biais cognitifs sont notre quotiidien. Effet Koulechov, illusions visuelles, mirages sont compris dedans.
Donc oui iA essaye de reproduire les mécaniques de nos sens et sans une bonne programmation, il reproduit les dysfonctionnements. C'est pourquoi, il faut toujours étudier les exceptions et les erreurs qui sont une grande source de corrections.

Une des choses les plus difficile en iA, est de lui faire désapprendre. Un modèle peut être perverti.
C'est pourquoi vous allez voir d'anciennes iA s'arrêter brusquement au profit de nouvelles.

Pour aller dans le sens de Sapien, l'iA fonctionne aussi sur des systèmes de récompenses et si cela vous intéresse, je vous donnerais des exemples positifs et négatifs de ce système pour l'iA.

Bon j'essaye de vulgariser mon travail, mais là je rentre vraiment dans des notions plus pointues.

 

Un système de récompense en ia ! alors là...

 

Oui, cela rentre dans le cadre de la phase d'apprentissage de l'iA par une technique appelée renforcement. On attribue des bons points et des punitions à iA.

Je vais vous raconter une anecdote réelle pour bien comprendre les difficultés de ce système.

Il y a quelques mois, c'est tenue une conférence entre les directeurs de l'IA des armées de l'air de l'OTAN. Celui de l'US Air Force a présenté leur étude sur des avions de chasse piloté par iA.

Dans une simulation, plusieurs avions devaient aller détruire des cibles derrière les lignes ennemies, en évitant/détruisant, les systèmes de radar, antiaériens de l'ennemi et de chasse du camp adverse.
L'ordre de feu devait être donné cependant par un humain au sol dans les lignes amies.

Le système donnait des points à chaque avion qui réussissait sa mission, le plus efficacement possible (rapidité, usage de l'armement, coûts en carburant etc).
Puis on a attribué des points au mode coopératif entre les avions. Certains détruisant les défenses pour permettre à d'autres d'atteinte l'objectif.

Ce système a fonctionné vraiment très bien et le groupe d'avion a très vite appris la meilleure tactique, et la plus efficace pour gagner un maximum de récompenses.

Néanmoins, au bout d'un moment le système ne pouvait plus s'améliorer .... Sauf qu'avec ce système, de récompenses les avions qui cherchaient toujours à s'optimiser. Ils ont fini par identifier que leur frein à la progression de leur score, était l'attente de la confirmation humaine de l'ordre de tir.

C'est alors que les avions se sont retournés contre le système et ils ont pris l'initiative de détruire le centre de communication commandement-avions ami et ainsi prendre la décision de tir par eux mêmes. (tout en respectant les 3 lois d'Asimov).

incroyable non ?

 

On est loin du système de récompense cérébral. Il s'agit plutôt à ce stade d'une régulation, au sens industriel, c'est-à-dire une boucle de rétroaction qui envoie une correction au système ; correction déduite de l'écart entre la mesure et la consigne etc.
L'informatique ne prend pas d'initiative. C'est nous-mêmes qui lui attribuons cette compétence qui est exclusivement animale (600 millions d'années d'évolution !). En la matière - l'informatique - les glissements sémantiques sont légion et constituent un danger si l'on y prend pas garde ; et ils sont trèèès à l'oeuvre...

 

Tu veux dire sécrétion d'endorphine ? Pas vraiment digital tout ça ... même si avec le bout des doigts
Bien que ! Tu as aussi remarqué que nous sommes rentrés dans une société de notations. On met à disposition des bouton rouges, jaune, vert dans les toilettes des autoroutes pour noter les personnels d'entretien, on met des likes, chatGPT demande ton avis sur la qualité de sa réponse etc etc.
C'est un monde horrible qui alimente des iA et qui ont des conséquences. Endorphine pour les like mais aussi sanctions, payes, turnover et. C'est encore un grand sujet de société.

Bref tout ça pour dire encore une fois :
Ce n'est pas, parce que l'on utilise ChatGPT, SORA ou Midjourney que l'on est un spécialiste de l'iA
Ce n'est pas parce qu'une entreprise met à disposition CoPilot qu'elle fait de l'iA.

L'iA est un ensemble de méthodes mathématiques qui demandent des spécialistes pointus et payés chers.
Et pour cause, il y a pas mal de choses à prendre en compte : juridiques, éthiques, sécuritaires, erreurs, biais et hallucinations , (etc.) pour faire un modèle professionnel adapté à son besoin métier.

Les génies sont humains et l'iA n'est pas humaine .. Les génies humains font des erreurs et donc l'iA fait des erreurs.

Il faut garder son sens critique et responsable.

 

Et pour cause, la fonction première de l'évaluation est sa fonction performative, c'est-à-dire sa capacité à faire advenir l'objet même de ce qui est évalué. Autrement dit, le but de l'évaluation est principalement la soumission des individus. Exemple emblématique : le système de notation financière des pays.

A terme, une société normée, rationnelle, obéissante, calme. Il n'y aura donc plus rien à écrire ni à filmer

P.S. - ça en est où la loi sur l'euthanasie ? il faut prévoir un alinéa pour l'ia.

 

A mon grand regret.
Mais si tu n'écris plus dans le forum, écrit tes mémoires stp. J'adore lire toutes les anecdotes de ton passé professionnel.
Il y a aussi celles que tu évoques sans trop dévoiler, mais peut être qu'il y aura un jour prescription
Sinon je déboule en Bretagne pour une ITW
Et tu pourras me former pour éclairer proprement, cadrer proprement, et prendre un son correct