Vidéo , L'IA , la perte de contrôle a déjà commencé .

[vic]

QUI EST L'INVITÉ ?

Maxime Fournes est un expert en intelligence artificielle qui travaille dans le domaine depuis plus de dix ans. Après avoir développé des systèmes d’IA et dirigé des équipes de recherche, il a progressivement pris conscience des risques liés au développement de modèles toujours plus puissants. Il dirige aujourd’hui PauseAI, une organisation internationale qui appelle à une pause dans le développement des intelligences artificielles les plus dangereuses.

['mazalée']

Salut Vic,

Pourquoi avoir peur de l'IA si elle n'est programmée que pour aller dans notre sens, soit pour nous faire plaisir.

[vic]

Cette vidéo traite des problèmes d'alignement , le titre est un peu trompeur l'ia a surtout des réactions imprévisibles , des façons d'agir qu'on ne peut pas prévoir .
Mais si vous voulez comprendre le problème de l'alignement , et des dangers quand il est question d'ia plus puissantes que l'intelligence humaine c'est une vidéo très explicative .

Ajouté 1 minute 36 secondes après :

Salut Vic,

Pourquoi avoir peur de l'IA si elle n'est programmée que pour aller dans notre sens, soit pour nous faire plaisir.

Il faut que tu regardes la vidéo que je viens juste de rajouter pendant que tu écrivais .
En réalité , on ne maitrise pas réellement le fait qu'elle aille dans notre sens, il reste de très grosses failles .
C'est ce qu'on appelle les problèmes d'alignement .

['mazalée']

Que signifie cette expression :"les IA" sont programmées pour aller dans notre sens.

Est ce qye si je dis "le ciel est rouege" eles diront "bien sûr il est rouge".

C est quoi notre sens ?

[ronronladouceur]

Vidéo , L'IA , la perte de contrôle a déjà commencé .

Une vidéo faisant état d'un forum pour IA uniquement, les humains en étant exclus...

[Gaetan]

Je crains qu'on manipule l'IA pour qu'il dise ce que l'élite veut nous faire croire et non la vérité.

[Oiseau du paradis]

Je crains qu'on manipule l'IA pour qu'il dise ce que l'élite veut nous faire croire et non la vérité.

L'humanité a perdu la foi dans le récit libéral qui a dominé la vie politique mondiale des dernières décennies et ce, au moment précis où la fusion de la biotech et de l'infotech nous lance les plus grands défis que notre histoire ait jamais dû relever auparavant.

[vic]

Je crains qu'on manipule l'IA pour qu'il dise ce que l'élite veut nous faire croire et non la vérité.

Il n'y a pas besoin d'IA pour ça .
En chine , en corée du nord et en Russie cela existait déjà bien avant l'existence de l'iA.

Ce qui est plus à craindre c'est que dans ces dictatures , l'IA verrouille les choses de façon plus puissante et irréversible .
En chine , des caméras de surveillance partout avec reconnaissance faciale , l'IA peut pister n'importe qui .
Tu peux facilement utiliser les smartphones pour espionner les personnes à travers le micro etc ...
Vouloir se rassembler pour faire une révolution va devenir impossible dans ces pays .
L'IA va devenir le bras armé impitoyable de ces dictateurs contre les populations .
En plus , quand tu discutes avec une IA , l'IA peut garder tes conversations , faire un profil de toi .

On nous vend l'IA comme progrès magistrale , mais un outil aussi considérable peut être utilisé de toutes les façons en pire comme en mieux .
Ce qui est certain , c'est que l'homme ne sera plus l'être le plus intelligent , et que celui qui aura le pouvoir sur cet outil pourra facilement soumettre presque qui il veut .

On nous vend déjà l'idée du transhumanisme dans le futur pour gagner en intelligence , implanter des choses dans le cerveau humain pour l'augmenter et le relier à une intelligence artificielle . Autant dire que là la machine pourra lire dans tes pensées directement, et là on est au sommet de la soumission puisque tes pensées seront toutes analysées en temps réel pour communiquer avec la machine .

Le problème c'est que la vitesse de progression technologique de l'iA est beaucoup plus rapide que le progrès de l'être humain en sagesse .
Comme disais rabelais " science sans conscience n'est que ruine de l'âme " .
J'entends dire " pas de problème , c'est la façon dont on programme comme on veut l'IA qui fait ce qu'on en fait " .
L'homme est il assez sage et mûr pour l'utilisation d'une telle puissance colossale ?
C'est comme vouloir la puissance d'un dieu sans la sagesse .

[Gaetan]

Il n'y a pas besoin d'IA pour ça .
En chine , en corée du nord et en Russie cela existait déjà bien avant l'existence de l'iA.

Au Canada c'est la même chose, on s'arrange pour que ce soit les partis qui représentent les plus riches qui forment le gouvernement du pays.