l'IA aujourd'hui dans le métier !

"Ceusses" qui défendent l'IA à tout prix mordicus, ce ne sont pas les professionnels : eux, ils savent ce dont ils ont besoin, en acceptent plus ou moins les conséquences, il y a des évolutions que l'on ne peut pas ou ne doit pas manquer.... aide, vitesse, productivité , comme tous les outils.

Par contre quand on parle du miracle de l'IA comme de la victoire de l'homme sur la vie ( faire ce qu'on veut quand on veut et pour rien) c'est qu'on a probablement pas compris grand-chose…

C'est juste faire semblant de faire soi-même quelque chose, alors qu'on n'a rien fait ou si peu, ce qui rappelle le " fait soi-même" que vend l'industrie pour la pâtisserie ou autres bricolages maison : ça occupe, ça rend fier l'enfant de 5 ans… Bref, on touche à l'amour-propre, l'infantilisme.

Il faudra faire avec

 

Et ça commence alors que l' on en est qu au début, bientôt nos caméras vont nous botter le cul.
L'IA refuse de s'éteindre quand on lui ordonne : des experts alertent l'humanité - Les Numériques

 

Le danger que je vois dans l'IA est la standardisation , la suppression de l'intelligence et de la créativité

C'est le rêve de l'administration : supprimer ceux qui pourraient discuter leur pouvoir

Dans l'industrie , une usine robotisée travaillant 24/24

La ville de Lille a , il y a de nombreuses années , supprimé les conducteurs de métro pour faire face aux grèves.

L'AI ne ferait pas grève quand les trains amènent les français en vacances

Dans le même temps, l'éducation s'est effondrée . Pourquoi apprendre puis que mon téléphone me donnera la réponse en quelques secondes ?

On n'est pas encore aux niveaux des livres de science fiction des années 50 , où les robots prenaient le pouvoir

 

"L'AI ne ferait pas grève quand les trains amènent les français en vacances"

justement , non, si l'IA se refèrre au comportement humains, il y a bien des chances qu'elle s'apercoive assez rapidement que les tâches qu'on lui donne on une importance pour nous et utilise soit la continuation, soit l'arrêt des dites tâches pour obtenir quelque chose. (par exemple s'approcher d'une consigne le plus possible).
Le cas le plus évident, c'est si on utilise un IA pour la guerre, en général, l'être humain aussi féroce soit-t'il se fatigue assez vite , donc la guerre s'arrête pour une raison ou pour une autre , souvent sans rien résoudre. Avec une IA , ca risque de ne pas être le cas.
Les scénarios de SF utilisent ca très souvent, l'IA éradique l'ennemi (ou l'ennemi capitule) , mais l'aggresseur en voulant stopper la guerre (donc empêcher l'IA d'atteindre sa consigne) devient lui-même un ennemi a éradiquer.

Le problème de l'entrainement de l'IA c'est le renforcement. Autrement dit on essaie d'éduquer ce qu'on voudrait un comportement humain avec des méthodes qu'on applique généralement aux animaux ou aux machines,
Ces méthodes ont toutes une choses en commun, c'est l'utilisation du baton et de la carotte dans une boucle qui se répète jusqu'a obtenir le bon résultat.
Mais le processus dépend de celui qui l'applique. Donc quand celui-ci est fatigué en fin de journée, il met fin au processus de manière arbitraire (il veut aller manger sa pizza et se reposer pour reprendre le lendemain). Ca marche avec un animal ou un enfant qui par sa nature biologique se fatigue probablement aussi vite que son maitre, et est bien content que ca s'arête.
Avec une machine, il suffit de mettre un bouton stop.
Avec une IA c'est plus si simple, surtout qu'elle est capable d'intégrer des paramètres que nous ne prenons pas en compte.
(Dans les films de SF, c'est quand l'IA prend controle de la clim pour cuire ou congeler ses ennemis)


on va donc pas s'étonner si une IA a un comportement de gosse de 4 ans (des crises du genre , si j'ai pas ca j'arrête de respirer !) ou de psychopathe toute en étant capable de comprendre des situations subtiles et complexes et d'appliquer des stratégie machaivéliques.
je l'ai dit deja il y a 20 ans, il manque une discipline dans l'informatique qui est la psychologie des grand systeme. Ces systèmes sont conçus par des humains, pour penser comme des humains, il n'y donc pas de raison qu'ils ne montrent pas les mêmes characteristiques (et travers) que les humains .
A plus large échelle, ca peut s'appliquer a tout système assez large (un réseau électrique, un systeme de transport ).
Donc le stress, les conflits d'intérêt, le bagage educationel, les déviances etc... sont des choses a maitriser avec tout gros système.
Evidemment, en general quand on parle de ca , ca fait rigoler les ingénieurs qui sont souvent les moins perméables a ce genre de chose. Et en général il se bornent a mettre un interrupteur d'urgence pour que l'humain puisse reprendre le controle si ca part en vrille.
(reflex normal, quand ca part en vrille , on appuie sur le gros bouton stop, le frein etc...). Du coup, blackouts, tout le monde pas content.
Et bien sure vient le gars genial qui te dit qu'en mettant son IA dans ton systeme, elle va intervenir pour empecher tout ca (consigne, maintenir le système en fonction a tout prix) . Tout le monde se félicite et se tape dans le dos, et c'est le début de l'apocalypse.


Asimov qui a établi les 3 lois de la robotique et écrit ensuite des dizaines de nouvelle (le cycle des robots , Le Robot qui rêvait) ou il explore des cas ou un robot contourne ces lois sans les enfreindre, dans un subtil mélange de science, de logique et de psychologie) devrait etre enseigné dans tous les écoles.
Si vous avez rien a faire cet été, lisez ces deux recueuils de nouvelles, en plus c'est souven drôle.
Dans Quel Ordre Lire Le Cycle Des Robots d'Isaac Asimov ? - Chronolivre

Saluez Susan de ma part...

 

+1

Spoiler: 70

Déjà dans les années 70 qui n'a jamais vu son programme partir en boucle ..impossible de l’arrêter
(If error goto ....)

 

un autre roman , plus metaphorique , mais exprimant bien le probème actuel.
PocheSF - Puces

 

Ne serait-il pas possible de faire exploiter l'IA par elle-même, une boucle en quelque sorte ?

 

c'est deja le cas.
Mais t'es juste deux fois plus dans la m... (ou au carré selon comment tu vois ca)