Vidéo , L'IA , la perte de contrôle a déjà commencé .

[vic]

QUI EST L'INVITÉ ?

Maxime Fournes est un expert en intelligence artificielle qui travaille dans le domaine depuis plus de dix ans. Après avoir développé des systèmes d’IA et dirigé des équipes de recherche, il a progressivement pris conscience des risques liés au développement de modèles toujours plus puissants. Il dirige aujourd’hui PauseAI, une organisation internationale qui appelle à une pause dans le développement des intelligences artificielles les plus dangereuses.

['mazalée']

Salut Vic,

Pourquoi avoir peur de l'IA si elle n'est programmée que pour aller dans notre sens, soit pour nous faire plaisir.

[vic]

Cette vidéo traite des problèmes d'alignement , le titre est un peu trompeur l'ia a surtout des réactions imprévisibles , des façons d'agir qu'on ne peut pas prévoir .
Mais si vous voulez comprendre le problème de l'alignement , et des dangers quand il est question d'ia plus puissantes que l'intelligence humaine c'est une vidéo très explicative .

Ajouté 1 minute 36 secondes après :

Salut Vic,

Pourquoi avoir peur de l'IA si elle n'est programmée que pour aller dans notre sens, soit pour nous faire plaisir.

Il faut que tu regardes la vidéo que je viens juste de rajouter pendant que tu écrivais .
En réalité , on ne maitrise pas réellement le fait qu'elle aille dans notre sens, il reste de très grosses failles .
C'est ce qu'on appelle les problèmes d'alignement .

['mazalée']

Que signifie cette expression :"les IA" sont programmées pour aller dans notre sens.

Est ce qye si je dis "le ciel est rouege" eles diront "bien sûr il est rouge".

C est quoi notre sens ?

[ronronladouceur]

Vidéo , L'IA , la perte de contrôle a déjà commencé .

Une vidéo faisant état d'un forum pour IA uniquement, les humains en étant exclus...