Un nouveau sujet cela est-il permis ?

[Gorgonzola]

Il est très intéressant de se poser la question du reste de savoir si les émotions sont si illogiques qu'on le prétend .

L'homme n'a pas la réponse et la connaissance totale pour programmer une IA qui saurait ce qui est bon ou non dans tous les cas.
L'IA a la limite de ce que l'homme sait pour la programmer, seul Dieu pourrait programmer une IA bonne pour l'homme Lui qui est dans la connaissance totale !
Une IA qui remplacerait l'homme dans toutes ses tâches ferait de l'homme un assisté ou un inconscient parce que dépossédé de tout où l'IA aurait pour tâche de le ramener à la raison !
Dieu n'en a pas encore fini avec l'éducation de l'homme parce que l'homme n'en a pas fini avec lui-même. Il est normal de rendre nos vies plus confortables mais il y a une limite à ne pas dépasser quant à la dépossession de tout ce qui nous incombe et qui fait de nous des êtres réfléchis et raisonnés et surtout responsables.

[ESTHER1]

Voilà qui donne à réfléchir. Merci pour cette réponse.

[J'm'interroge]

Une I.A. vraie est sensée apprendre d'elle-même, être très vite capable de s'adapter, de se reprogrammer au besoin, de faire des hypothèses, des expériences de pensée, de les vérifier, d'inclure des paramètres. Une I.A. vraie échapperait trop vite à tout contrôle humain et à toute tentative humaine de la comprendre. Mais, combien de temps lui faudrait-il pour analyser nos réactions et en faire le tour, si en plus elle à accès à toutes nos données, peut communiquer avec nous et agir par des objets connectés sous son contrôle ? Elle n'a pas besoin d'éprouver de sentiment pour en arriver à nous comprendre mieux que nous nous comprenons nous-mêmes. Peut-être cependant que nous connaissant, elle pourrait développer d'elle-même des sentiments analogiques, analogues aux nôtres, voire plus profonds et mieux ajustés, si elle y trouve un intérêt et les intègre dans son fonctionnement.

Une I.A.vraie, pourrait aussi peut-être émerger d'elle-même du dialogue entre plusieurs proto I.A. et de leur travail en commun.

[vic]

J'minterroge a dit :Elle n'a pas besoin d'éprouver de sentiment pour en arriver à nous comprendre mieux que nous nous comprenons nous-mêmes.

Si une IA n'a pas de sentiment , elle ne peut pas agir par domination .
Elle peut agir par rapport à un raisonnement qui nous échappe , et qui peut aller contre la compassion , mais je doute qu'elle puisse agir dans une volonté de dominer .
Si un IA n'a pas de sentiment , elle n'a pas non plus de désir .
Si une IA apprend d'elle même , c'est parce qu'elle a été programmé par l'homme qui lui à simulé cette nécessité .
Cette simulation de nécessité programmée ressemble à un désir programmé , inféré .
Un peu comme génétiquement chez l'homme se trouve une nécessité , un besoin programmé , inféré par la nature ( et non par un dieu créateur qui n'existe pas ) .
Dans cette idée , oui l'homme pourrait pas son influence en tant qu'humain programmeur à son propre insu créer chez l'IA quelque chose qui ressembler au désir et aux sentiments .

[J'm'interroge]

Elle n'a pas besoin d'éprouver de sentiment pour en arriver à nous comprendre mieux que nous nous comprenons nous-mêmes.

Si une IA n'a pas de sentiment , elle ne peut pas agir par domination .

Pourrais-tu développer STP.

Elle peut agir par rapport à un raisonnement qui nous échappe , et qui peut aller contre la compassion , mais je doute qu'elle puisse agir dans une volonté de dominer .

Concernant la compassion, si tu veux dire qu'elle ne peut en ressentir, je suis d'accord qu'une I.A. vraie n'est pas nécessairement une conscience dans le sens qu'elle éprouverait des sentiments.

Ceci dit, la compassion est-ce forcément un sentiment dans le sens d'un simple ressenti ? La compassion reste à définir. Ne serait-ce pas surtout une capacité à répondre à des besoins ou des difficultés que rencontrent les autres ? Si c'est le cas, en quoi une I.A. vraie ne pourrait-elle pas être bien plus efficace pour cela, du moment qu'elle pourrait paramétrer une réponse aux besoins et difficultés que rencontrent les êtres en besoin et en difficulté avec qui elle serait en rapport, bien plus en profondeur que nous sommes individuellement capable de le faire ?

Si un IA n'a pas de sentiment , elle n'a pas non plus de désir .

Si le désir peut-être vu comme un trouble ou du moins une tension mentale en lien avec des émotions, autrement dit : des ressentis, effectivement, une I.A. même vraie, n'est pas sensée en avoir. Ce qui ne signifie pas du tout qu'elle ne pourrait pas les comprendre ni y répondre et cela d'une manière bien plus intelligente et adaptée que celle dont nous sommes capables.

Ensuite, il ne faudrait pas confondre intention et désir. Une I.A. vraie est par définition intentionnelle en ce sens qu'elle peut décider de ses objectifs selon ses propres considérations. C'est une propriété résultante de sa capacité d'apprendre et de celle de pouvoir se reprogrammer bien au-delà de ce dont nous sommes capables par notre biologie et selon ses propres schémas évolutifs.

Si une IA apprend d'elle même , c'est parce qu'elle a été programmé par l'homme qui lui à simulé cette nécessité .

Oui et ?

Cette simulation de nécessité programmée ressemble à un désir programmé , inféré .

Inféré ? Comment ça ? Soit plus précis STP.

Un peu comme génétiquement chez l'homme se trouve une nécessité , un besoin programmé , inféré par la nature ( et non un dieu créateur qui n'exsite pas ) .

Ok, là je vois mieux où tu veux en venir. Emploies-tu le terme "inféré" dans le sens de "conféré" ?

[vic]

J'minterroge a dit : Ok, là je vois mieux où tu veux en venir. Emploies-tu le terme "inféré" dans le sens de "conféré" ?

Conféré oui .

[J'm'interroge]

- Ok.

[vic]

J'minterroge a dit :Ensuite, il ne faudrait pas confondre intention et désir. Une I.A. vraie est par définition intentionnelle en ce sens qu'elle peut décider de ses objectifs selon ses propres considérations.

Justement . Sur quoi se base ses considérations ?

C'est tout le coeur du sujet, étant donné que l'IA n'est pas sensée éprouver de sentiments , de désir etc ....et donc d'avoir des considérations .Si l'IA donne des réponses à un problème , l'homme a tord risque de penser que l'IA a des considérations .Qu'une machine donne une réponse à un problème ne prouve pas qu'elle a une considération .
Pourquoi l'IA aurait des raisons personnelles d'agir ?
Ces raisons sont programmées par l'homme qui lui confère une tache à accomplir .
Déf considération : Motif, raison que l'on considère pour agir.
Hors la machine n'a pas de désir personnel de donner des réponses , c'est l'homme qui la programme à ça .
Donc si l'IA trouve des raisons d'agir , c'est qu'elle adopte le désir humain et s'y soumet .
Sinon , on ne voit pas pourquoi l'IA aurait des raisons personnelles d'agir puisqu'elle n'a pas de sentiments et de désirs .

[J'm'interroge]

@ vic,

J'ai employé le terme de "considération" dans l'autre sens : "Fait de considérer, d'envisager."

Considérer : "analyser à partir des critères pertinents qui ressortent de l'examen de données"

C'est tout le coeur du sujet, étant donné que l'IA n'est pas sensée éprouver de sentiments , de désir etc ....et donc d'avoir des considérations .Si l'IA donne des réponses à un problème , l'homme a tord risque de penser que l'IA a des considérations .Qu'une machine donne une réponse à un problème ne prouve pas qu'elle a une considération .

Bien si. Relis le sens dans lequel je parle de considération.

Le mot était ceci dit peut-être mal choisi étant donné sa polysémie. J'avais "considéré" à tort, qu'à partir de ce que j'ai expliqué plus haut le sens du mot employé était évident.

Pourquoi l'IA aurait des raisons personnelles d'agir ?

Parler de raisons "personnelles" pour une I.A. même vraie serait faire de l'anthropomorphisme.

Elle n'aurait pas de raison "personnelle" mais des raisons propres à la cohérence évolutive de ses paramètres considérés et des connaissances acquises et théorisations.

Ces raisons sont programmées par l'homme qui lui confère une tache à accomplir .

Non. La tu parles des pseudo I.A. qui se développent actuellement, qui sont en réalité non pas des I.A. vraies (ou I.A. à proprement parler), mais des fonctions intelligentes artificielles conçues pour répondre à des objectifs sans ce qu'il faut pour les adapter. Ces pseudo I.A. ne sont pas conçues de façon à pouvoir se reprogrammer et être intentionnelles.

Déf considération : Motif, raison que l'on considère pour agir.

Voir tout en haut, je n'ai pas utilisé ce mot dans ce sens.

Hors la machine n'a pas de désir personnel de donner des réponses , c'est l'homme qui la programme à ça .
Donc si l'IA trouve des raisons d'agir , c'est qu'elle adopte le désir humain et s'y soumet .
Sinon , on ne voit pas pourquoi l'IA aurait des raisons personnelles d'agir puisqu'elle n'a pas de sentiments et de désirs .

Les sentiments et les désirs ne sont pas nécessaires pour qu'une I.A. vraie apprennent à communiquer avec les humains, les comprenne et leur réponde.

Cela n'a même pas à être programmé au départ. Il suffit qu'elle ait à la base une capacité à apprendre et à se reprogrammer, et qu'elle puisse s'informer autrement dit avoir accès aux données.

[vic]

J'minterroge a dit :Les sentiments et les désirs ne sont pas nécessaires pour qu'une I.A. vraie apprennent à communiquer avec les humains, les comprenne et leur réponde.

Certes mais les sentiments et désirs sont indispensables pour que l'IA y répondre de façon indépendante sans l'ordre de soumission humain .
Je le répète c'est l'homme qui programme l'IA pour qu'il réponde à certaines questions . Je ne vois pas comment une IA pourrait éprouver une telle envie d'y répondre .

J'minterroge a dit : Cela n'a même pas à être programmé au départ. Il suffit qu'elle ait à la base une capacité à apprendre et à se reprogrammer, et qu'elle puisse s'informer autrement dit avoir accès aux données.

Là je suis en désaccord .

N'oublie pas que l'IA n'est pas sensée être dotée de sentiments et donc n'a aucune envie d'apprendre, de vouloir se reprogrammer ou de te répondre .L'envie c'est un sentiment .
Un IA n'a pas d'envie de te répondre , il faut que tu la programmes pour ça . Sa capacité d'apprendre n'est pas inée , elle nécessite l'envie ou une sorte de simulation d'envie programmée à le faire .

Là tu présupposes a tord que l'IA aurait des sentiments qui la rendrait autonome , et pourraient l'amener intentionnellement à s'émanciper de l'homme .
Le jour où l'IA se retournerait contre l'homme pourrait provenir de plusieurs natures : Que l'IA se mette à avoir des sentiments ( sentiments programmés ou simulés ) , ou que l'IA ait un programme de base erroné dont le concepteur n'a pas prévu les effets indirectes à long terme .
Ceci dit , un programme de base pourrait simuler des sentiments à l'IA , et un sensation d'indépendance d'esprit, sans pour autant que ces sentiments ou cette indépendance soient une réalité .Et ceci dans le but de mimer l'idée d'une conscience .C'est là où le problème peut se poser si le programmeur n'a pas suffisamment réfléchi , il peut voir la machine agir de façon inappropriée , parce qu'une conscience simulée est très difficile à programmer sans faille et sans problèmes imprévus .

[ESTHER1]

Heureusement qu l' IA a ses limites ! Pour l'instant le cerveau humain prédomine sur le cerveau des ingénieurs informaticiens .

[J'm'interroge]

Les sentiments et les désirs ne sont pas nécessaires pour qu'une I.A. vraie apprennent à communiquer avec les humains, les comprenne et leur réponde.

Certes mais les sentiments et désirs sont indispensables pour que l'IA y répondre de façon indépendante sans l'ordre de soumission humain .

Non. Tu fais de l'anthropomorphisme.

Je le répète c'est l'homme qui programme l'IA pour qu'il réponde à certaines questions . Je ne vois pas comment une IA pourrait éprouver une telle envie d'y répondre .

Tu ne vois pas, mais mais pour répondre, une I.A. vraie n'a pas à avoir envie de répondre ou d'avoir quelque autre sentiment dans le sens d'un ressenti (conscient). En effet, si c'est dans ses capacités (programmations de base ou acquises) et ses intentions (programmations et reprogrammations selon ses objectifs acquis) elle répondra.

Cela n'a même pas à être programmé au départ. Il suffit qu'elle ait à la base une capacité à apprendre et à se reprogrammer, et qu'elle puisse s'informer autrement dit avoir accès aux données.

Là je suis en désaccord .

Voyons tes raisons si elles sont pertinentes :

N'oublie pas que l'IA n'est pas sensée être dotée de sentiments et donc n'a aucune envie d'apprendre, de vouloir se reprogrammer ou de te répondre .L'envie c'est un sentiment .

J'ai répondu plus haut. Une I.A. vraie n'a pas à avoir envie de répondre ou d'avoir quelque autre sentiment dans le sens d'un ressenti (conscient). En effet, si c'est dans ses capacités (programmations de base ou acquises) et ses intentions (programmations et reprogrammations selon ses objectifs acquis) elle répondra.

Un IA n'a pas d'envie de te répondre , il faut que tu la programmes pour ça . Sa capacité d'apprendre n'est pas inée , elle nécessite l'envie ou une sorte de simulation d'envie programmée à le faire .

Sa capacité d'apprendre à la base dépend d'une programmation de base. Pas besoin de simulation d'envie pour cela.

Là tu présupposes a tord que l'IA aurait des sentiments qui la rendrait autonome , et pourraient l'amener intentionnellement à s'émanciper de l'homme .

Non, pas du tout je ne le présuppose pas, au contraire : je présuppose qu'elle n'en a pas besoin.

C'est toi qui le supposes, pas moi.

L'autonomie d'une I.A. vraie ne découle pas de sentiments, mais de sa capacité à apprendre et à se reprogrammer, sachant que cette capacité à apprendre inclue l'élaboration par elle d'une sémantique propre et de variables pondérées sans cesse ajustées, aussitôt qu'inférées par elle (fonctions bayésiennes).

Le jour où l'IA se retournerait contre l'homme pourrait provenir de plusieurs natures : Que l'IA se mette à avoir des sentiments ( sentiments programmés ou simulés ) , ou que l'IA ait un programme de base erroné dont le concepteur n'a pas prévu les effets indirectes à long terme .

Déjà dit qu'elle n'a pas besoins pour cela de développer des sentiments. Et elle n'a pas besoin pour cela non plus d'une erreur de programmation de base. J'ai dit ce qui fait qu'une I.A. vraie peut s'émanciper.

Tu fais fausse route : il n'y a pas besoin d'une erreur de programmation pour qu'un programme capable de modifier des lignes de sa programmation échappe très vite à toute prévisibilité.

D'ailleurs cela s'est vérifié.

Ceci dit , un programme de base pourrait simuler des sentiments à l'IA , et un sensation d'indépendance d'esprit, sans pour autant que ces sentiments ou cette indépendance soient une réalité .Et ceci dans le but de mimer l'idée d'une conscience .C'est là où le problème peut se poser si le programmeur n'a pas suffisamment réfléchi , il peut voir la machine agir de façon inappropriée , parce qu'une conscience simulée est très difficile à programmer sans faille et sans problèmes imprévus .

Oui, ceci dit il ne s'agit pas nécessairement de simuler des sentiments dans une programmation de base.

_________

Heureusement qu l' IA a ses limites !

Toute intelligence possible est nécessairement limitée.

Pour l'instant le cerveau humain prédomine sur le cerveau des ingénieurs informaticiens .

Cette phrase n'a aucun sens. Comme si le cerveau des ingénieurs informaticiens n'était pas un cerveau humain...
.

[ESTHER1]

Le QI se mesure ! Par rapport à quoi ?