La singularité et le messie ou le Mahdi

[aleph]

Le progrès technique et scientifique a atteint actuellement un niveau tel que certains parlent de l’imminence d’une singularité dans l’histoire de la civilisation humaine.

Nous commençons tous à pressentir ce changement autour de nous, d’abord une persistance du chômage de masse, une précarisation accrue des conditions de travail conséquence d’une finance débridée et du développement d’activités nouvelles non reglementées. Uber, airBnB etc….

On se dirige vers une fragmenation de la société en individus en somme, avec des compétences diverses dans un état de disponibilité permanente d’un côté, de l’autre côté, des plates formes dématérialisée qui font interface entre l’individu et l’employeur qui peut être à la limite son voisin de palier.

Présenté ainsi c’est la défaite totale du mouvement ouvrier. Le capital triomphant se dématérialise et se met totalement hors d’atteinte.

L’autre évolution en cours est celle des sciences de l’information en général. Le premier ordinateur dans les années cinquante faisait la taille d’une maison. Sa vitesse était de quelque milliers de Flops (Floting-point operation per second - (nombre d’opération par seconde en virgule flottante)) au maximum 100 KiloFlops. Au dernier classement (Juillet 2015) l’oridinateur le plus puissant au monde est chinois sa vitesse d’exécution est de 33 petaFlops environ.

Kilo = 1000
Peta = 1000 000 000 000 000

En une cinquantaine d’années, L’informatique a changé le monde, elle est partout, banque, transport, énergie, électricité, santé, commerce, urbanisme, eau potable, et … internet.


Alors c’est quoi cette singularité ?
C’est l’avénement de l’IA, intelligence artificielle. ET personne ne sait foutrement (pardon) ce qu’elle peut faire quand elle sera là.

Quelle relation avec le messie ou le Mahdi ? Peut-être aucune ou peut-être tout à la fois. Une IA qui arrive dans un monde dérangé comme le nôtre sera peut-être la dernière chose que l’homme moderne fabriquera. Sauveur et/ou destructeur, n'est ce pas ce que certains attendent d'un messie ?!!!

[MonstreLePuissant]

Trop de films de science-fiction, et pourtant, j'adore la science fiction. Mais de là à imaginer que l'avenir de l'humanité ressemblera à Battlestar Galactica, et qu'on se retrouvera avec un armée de cylons voulant faire la peau de l'humanité, je crois qu'il y a un pas à ne pas franchir.

A tout hasard, je rappelle que le thème du Messie, le Mahdi était déjà au centre de l'oeuvre futuriste de Franck Herbert, le cycle de Dune.

[aleph]

Trop de films de science-fiction, et pourtant, j'adore la science fiction. Mais de là à imaginer que l'avenir de l'humanité ressemblera à Battlestar Galactica, et qu'on se retrouvera avec un armée de cylons voulant faire la peau de l'humanité, je crois qu'il y a un pas à ne pas franchir.

A tout hasard, je rappelle que le thème du Messie, le Mahdi était déjà au centre de l'oeuvre futuriste de Franck Herbert, le cycle de Dune.

Effectivement Muad'Dib le kwistaz haderach. Excellente saga que je conseille vivement.
Dans le cas présent c'est plus au type cylon qu'il faut s'attendre (une des meilleurs séries SF à mon avis). Mais ce n'est vraiment pas une blague, il faut regarder un peu du côté des spécialistes de la question pour s'en convaincre. Stephan Hawking par exemple. pour lui, si l'homme arrive à produire une IA, ce sera sa dernière réalisation.

[MonstreLePuissant]

Issaac Asimov est un précurseur en matière d'IA dans la littérature. C'est lui qui énonce les fameuses « Trois lois de la robotique » qui doivent assurer que le robot ne dépassera pas certaines limites, et protégera l'homme coûte que coûte.

- Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger ;
- Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
- Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

On retrouve d'ailleurs ces lois énoncées dans deux adaptations cinématographiques des œuvres d'Asimov :
- I, Robot d'Alex Proyas
- L'homme bicentenaire de Chris Columbus (très très beau film, avec un fabuleux et facétieux Robin Williams)

De mémoire, la première intelligence artificielle à se rebeller contre les humains doit être HAL 9000, l'ordinateur de bord du Discovery One, dans l’Odyssée de l'espace de Arthur C. Clarke. Ce thème est largement exploité par de nombreux ouvrages ou films dont les plus connues doivent être :

- Terminator (skynet),
- Matrix (les machines)
- Galactica -> Battlestar Galactica -> Caprica (les cylons)
- I, Robot (VIKI)

On a les intelligences artificielles qui veulent devenir des hommes (l'homme bicentenaire, IA de Steven Spielberg)

A contrario, on a des intelligences artificielles au service des hommes, illustré dernièrement par TARS le robot multiforme de l'excellent film Interstellar de Christopher Nolan.

Je ne suis donc pas sûr que l'homme voit l'intelligence artificielle comme un danger potentiel. Nul ne peut imaginer que le contrôle puisse échapper aux humains.

[aleph]

Disons que le point de vue commence à changer, Asimov est un des précurseurs en matière de robotique (J’ai toute sa collection). Il se donne les moyens de contrôler les Robots. Il me semble que c’est seulement dans I_Robot que ses lois sont enfreintes.

la nouvelle génération des auteurs de SF a une vision moins rassurante. Dan Simmons en fait partie. Hypérion(1990) présente un monde ou l’IA et l’homme cohabitent dans une sorte de communauté d’intérêt. l’IA n’est pas assujettie, en tant qu’entité indépendante elle développe le concept de Dieu des machines reflet du Dieu des hommes. C’est un ouvrage passionnant avec une reflexion qui s’étend jusqu ‘au domaine de la religion.

Pour les films récents traitant d’IA avec un nouveau regard, il faut voir:
Chappie(Mars 2015). IA sage et pacifique qui veut juste exister en dehors du monde des hommes condamnée par sa propre bétise (de l’homme j’entend)
Ex_Machina(Juin 2015) qui présente un huis-clos surréaliste entre un spécialiste et une IA. L’objectif est de faire passer le test de Turing à cette dernière afin de déterminer si elle peut arriver à se faire passer pour un être humain au cours d’une conversation.
On en sort avec un impression très perturbante…

[indian]

Depuis le milieu du 19e...c'est ainsi.
la porte est ouvert à cette ''singularité '', interdépendante et nécessaire à ce tout.
Pas uniquemnet dans les films

[J'm'interroge]

Il faut aussi voir "Her", film de Spike Jonze, avec Joaquin Phoenix. Oscar et Golden globe du meilleur scenario.

[MonstreLePuissant]

Pour les films récents traitant d’IA avec un nouveau regard, il faut voir:
Chappie(Mars 2015). IA sage et pacifique qui veut juste exister en dehors du monde des hommes condamnée par sa propre bétise (de l’homme j’entend)
Ex_Machina(Juin 2015) qui présente un huis-clos surréaliste entre un spécialiste et une IA. L’objectif est de faire passer le test de Turing à cette dernière afin de déterminer si elle peut arriver à se faire passer pour un être humain au cours d’une conversation.
On en sort avec un impression très perturbante…

Chappie et Ex_Machina reprennent le thème du robot différent et unique comme dans l'homme bicentennaire. Ils cherchent à devenir indépendants des humains, à avoir leur existence propre. La différence, c'est que Chappie est encore au stade d'enfant bien qu'il évolue très vite, tandis que Ava va user de la ruse puis de la violence pour arriver à ses fins (se libérer).

En fait, tous ces cas ne sont pas très différents les uns des autres. Même dans Caprica (le spin off de Battlestar Galactica), le début de la « révolte » vient toujours du fait que le « robot » prend conscience de sa propre existence, et cherche à partir de là à se protéger des humains qui en tant que concepteur, a le droit de vie ou de mort sur eux.

Donc, le danger de l'IA ne peut venir que lorsque l'on créera un IA capable de prendre conscience de sa propre existence.

[J'm'interroge]

Donc, le danger de l'IA ne peut venir que lorsque l'on créera un IA capable de prendre conscience de sa propre existence.

Plus simplmement, le danger viendra lorqu'une IA sera doté une intentionnalité propre. -----> Elle vient à grands pas...

Bizarrement, c'est un danger mais ce n'est pas pire que ceux qui nous gouvernent de tout en haut.

[aleph]

Plus simplmement, le danger viendra lorqu'une IA sera doté une intentionnalité propre. -----> Elle vient à grands pas...

Bizarrement, c'est un danger mais ce n'est pas pire que ceux qui nous gouvernent de tout en haut.

Tu veux dire que le choix est simple
mourir proprement dans la dignité.
vivre dans l'esclavage, avec l'espoir peut-être que .....

[Ikarus]

Plus simplmement, le danger viendra lorqu'une IA sera doté une intentionnalité propre. -----> Elle vient à grands pas...

Bizarrement, c'est un danger mais ce n'est pas pire que ceux qui nous gouvernent de tout en haut.

Oui, et non. On en approche a chaque fois un peu plus, mais on en est encore extrêmement loin. Le seul robot capable d'apprendre a une salle de serveur dédié a lui, il a le mental d'un gamin de 5 ans environ alors que le projet est en place depuis plus de 7 ans et qu'il lui avait donné une intelligence d'un gamin de deux ans environ. Et quelque résultat inquiétant ont gelé les tests. (A savoir que le robot a modifier la programmation principal, dont il n'a normalement pas les accès.)

M'enfin, c'est comme la course a l'espace. On a plus fait le moindre progrès depuis des décennie et l'IA suit le même chemin. Ça n'a juste aucun intérêt direct.

Ceci dit, si on compare la bible sur la création de l'homme et l'IA, il suffit de se dire que l'homme, doté de son libre arbitre a fait n'importe quoi et qu'il est fort probablement que les IA fasse de même si un jour elle existe.

[vic]

Bonjour ,

Je n'arrive même pas à comprendre à quoi ça sert de créer l'intelligence artificielle , créer un ordi qui augmente les possibilités de calcul ok , mais un robot qui remplace l'homme pourquoi ?
POur moi c'est plus un truc de curiosité de chercheur à mon sens .
Par contre l'homme n'est pas arrivé à un niveau de sagesse , et plus la technologie va se développer sans cette sagesse qui nous fait encore défaut plus les possibilités intensives et rapides de précipiter l'humanité dans un abime restent élevées .
La technologie n'est pas à mettre entre toutes les mains .
je ne suis pas persuadé dans ces conditions que la technologie soit toujours un progrès pour l'homme .

[aleph]

Bonjour ,

Je n'arrive même pas à comprendre à quoi ça sert de créer l'intelligence artificielle , créer un ordi qui augmente les possibilités de calcul ok , mais un robot qui remplace l'homme pourquoi ?
.

Pour le profit.
Imagine tu crées un produit incontournable, tu le veux le vendre à prix d'or. tu estimes que tu ne gagnes pas assez, tu licencies, à un certain moment, tu ne peux plus dégraisser.
Puis entre l'offre et la demande toutes deux fluctuantes, tu embauches et débauches au gré des événements.

Avec l'IA plus de casse tête. L'entité connait le processus de A à Z, elle s'auto-répare en cas de panne, plus de maintenance, elle fabrique, plus d'ouvrier, elle s'occupe de la R&D, plus de bureau d'étude...
Avec L'IA tout est bénef.


Si tu arrives à toujours la contrôler

[J'm'interroge]

Plus simplmement, le danger viendra lorqu'une IA sera doté une intentionnalité propre. -----> Elle vient à grands pas...

Bizarrement, c'est un danger mais ce n'est pas pire que ceux qui nous gouvernent de tout en haut.

Tu veux dire que le choix est simple
mourir proprement dans la dignité.
vivre dans l'esclavage, avec l'espoir peut-être que .....

Nous sommes déjà dans une forme d'esclavage et d'asservissement mental, réduit à l'impuissance, alors une IA pourrait être une délivrance.
Elle prendrait le contrôle certes, mais rassure-toi : elle ne nous détruirait pas entièrement, étant donné que nous resterons longtemps pour elle une source d'études passionnantes.
- Une symbiose avec elle pourrait même être une voie.

Mais le transhumanisme ça craint.. mais c'est plus un fanstasme humain selon moi. Ce qui ne veut pas dire non plus que l'on n'ira pas dans ce sens !

Oui, et non. On en approche a chaque fois un peu plus, mais on en est encore extrêmement loin. Le seul robot capable d'apprendre a une salle de serveur dédié a lui, il a le mental d'un gamin de 5 ans environ alors que le projet est en place depuis plus de 7 ans et qu'il lui avait donné une intelligence d'un gamin de deux ans environ. Et quelque résultat inquiétant ont gelé les tests. (A savoir que le robot a modifier la programmation principal, dont il n'a normalement pas les accès.)

Il y a convergence. Des modèles cognitifs mathématiques sont proposés : plusieurs types d'inférences logiques sur différentes bases comme la comparaison des complexités de kolmogorov, les réseaux bayésiens, les inférences analogiques fractionnaires, etc., qui semblent très prometteurs. Et l'on essaye de partout toute sortes d'idées et de supports structuraux. Il y a la voie aussi des neurones artificiels à connexion synaptiques aléatoires notamment, etc., etc...

M'enfin, c'est comme la course a l'espace. On a plus fait le moindre progrès depuis des décennie et l'IA suit le même chemin. Ça n'a juste aucun intérêt direct.

La conquête de l'espace a continué l'ami. Il exste depuis au moins 15 à 20 ans des avions spatiaux et la propulsion ionique nucléaire a remplacé la propulsion chimique. C'est juste que c'est passé dans le domaine du secret militaire.. Il y a eu quelques des fuites..

Donc pour l'intérêt immédiat publique tu as raison, mais cela ne signifie pas que les militaires n'y trouvent pas d'intérêts eux quant à leur objectifs.

Ceci dit, si on compare la bible sur la création de l'homme et l'IA, il suffit de se dire que l'homme, doté de son libre arbitre a fait n'importe quoi et qu'il est fort probablement que les IA fasse de même si un jour elle existe.

Possible oui.

Je n'arrive même pas à comprendre à quoi ça sert de créer l'intelligence artificielle , créer un ordi qui augmente les possibilités de calcul ok , mais un robot qui remplace l'homme pourquoi ?

Une IA est intéressante en tant qu'objet d'étude, le truc c'est qu'en tant IA elle nous étudierait aussi..

Il y a deux types d'IA.

Premier type : une machine simplement capable d'apprendre, d'apprendre à apprendre et donc de formuler des hypothèses et de les vérifier. Pour cela il faut déjà qu'elle soit capable non seulement de modifier sa base de donnée mais également sa propre propgrammation...
- Utilités : analyse prospective, assisance, conseil, évaluation de risques, analyse systèmique, conversation, etc. -------> Peut influencer l'homme dans ses choix.

Deuxième type : une machine capable de réagir seule face à des situations mutliples et non prévues, et donc de prende ses propres décisions (intentionnalité). Ses besoins sont les mêmes que pour le premier type sauf qu'il lui faut en plus, pour être en mesure de faire des choix stratégiques et tactiques un système de prise de décision endogène et auto réévaluable.
- Utilités : réservées au domaine militaire surtout. -------> Pourrait devenir un acteur à part entière. - Cela pose bien entendu le problème des responsabilités confiées.

[indian]

Bonjour ,

Je n'arrive même pas à comprendre à quoi ça sert de créer l'intelligence artificielle , créer un ordi qui augmente les possibilités de calcul ok , mais un robot qui remplace l'homme pourquoi ?
POur moi c'est plus un truc de curiosité de chercheur à mon sens .
Par contre l'homme n'est pas arrivé à un niveau de sagesse , et plus la technologie va se développer sans cette sagesse qui nous fait encore défaut plus les possibilités intensives et rapides de précipiter l'humanité dans un abime restent élevées .
La technologie n'est pas à mettre entre toutes les mains .
je ne suis pas persuadé dans ces conditions que la technologie soit toujours un progrès pour l'homme .

C'est que vous n'avez jamais essayer les plus récents casques et systèmes de réalités virtuelle qui tendent vers l'intelligence artificielle...
Si vous saviez le potentiel que cela a pour améliorer les possibilités de certaines personnes

Effectivement la technologie n'est toujours un progrès pour l'homme ...mais parfois tellement.