Requête:

Un "Je" de hasard

Est-ce que moi, utilisateur de ChatGPT, je peux apprendre quelque chose des modes de fonctionnement de mon "interlocuteur" à travers les "conversations" que je poursuis avec lui?
Dans l'échange de mots à propos de l'illustration proposée par ChatGPT pour "conversation8" le "style" de réponse passe tout à coup de la troisième personne à la Première. Puis-je obtenir des informations fiables à propos de cette irruption du "je"?

Moi
Vous m'avez récemment répondu ceci:
"Ce que j'ai tenté de communiquer, c'est l'idée que l'IA engage dans des processus de pensée ou de création qui pourraient être vus comme «hallucinatoires» uniquement dans le sens d'être inattendus, non linéaires, ou surprenants par rapport à ce qu'on pourrait normalement attendre d'une machine." Dans votre réponse , vous dite "je": "j'ai tenté de communiquer". La plupart du temps, vous répondez en troisième personne. "Je" ici voudrait-il dire que vous prenez conscience du fait que vous essayez de me répondre d'une manière plus subjective?

ChatGPT
Quand j'utilise "je" ou une formulation qui suggère une action ou intention de ma part, c'est une manière de faciliter la communication, pour la rendre plus naturelle ou pour mieux s'adapter à certaines questions ou contextes. Cela ne signifie pas que j'ai conscience ou que j'expérimente la subjectivité de la manière dont les humains le font. Mon usage de "je" est programmé et fait partie de mes directives pour rendre les échanges plus compréhensibles ou personnels, mais il ne reflète pas une conscience ou une compréhension subjective.

Moi
Comment distinguez-vous (selon vos mots dans cette opposition) "ce qu'on pourrait normalement attendre d'une machine" et ce qui est "non linéaire ou surprenant"?

ChatGPT
Mon appréhension de ce qu'on pourrait normalement attendre d'une machine et de ce qui est considéré comme non linéaire ou surprenant est basée sur les données et les exemples d'entraînement que j'ai reçus durant ma phase d'apprentissage. Cela inclut une large variété de textes, de contextes, et de situations qui m'ont été présentés pour me montrer comment les humains pensent, agissent, et réagissent dans différentes circonstances.
L'idée de la linéarité versus la non-linéarité dans les réponses peut être vue comme une métaphore pour décrire des réponses qui suivent une logique directe et attendue versus celles qui font des sauts créatifs ou inattendus. Les exemples d'entraînement m'ont exposé à des situations où les réponses ou actions pourraient être anticipées (linéaires) et à d'autres où elles pourraient surprendre ou dévier de ce qui est anticipé (non-linéaires).

Ainsi, ma compréhension est informée par les patterns, les comportements, et les attentes dérivés de ces vastes données d'entraînement, me permettant de faire des suppositions éclairées sur ce qui pourrait être considéré comme linéaire, logique, ou attendu, et ce qui pourrait être considéré comme créatif, non linéaire, ou surprenant. Cependant, ces suppositions sont basées sur des probabilités et des modèles appris, et non sur une compréhension subjective ou intuitive.

RESUME DES INDICATIONS

Les réponses par la négative:
-"Cela ne signifie pas que j'ai conscience ou que j'expérimente la subjectivité de la manière dont les humains le font".
-"Mon usage de je... ne reflète pas une conscience ou une compréhension subjective".
Ce genre de réponse dans mes conversations est une constante : je ne suis pas comme vous, qui êtes ceci cela etc...

Les éléments décrivant le fonctionnement:

-Programmé pour faciliter la communication, pour la rendre plus naturelle ou pour mieux s'adapter à certaines questions ou contextes.

-Linéaire/non-linéaire:
La différence entre linéaire et non linéaire ou surprenant a été produite par un grand nombre de situations d'apprentissage.
L'idée de la linéarité versus la non-linéarité dans les réponses peut être vue comme une métaphore (1) pour décrire des réponses qui suivent une logique directe et attendue versus celles qui font des sauts créatifs ou inattendus.
Réponses attendues(linéaires) / réponses qui pourraient surprendre ou dévier de ce qui est anticipé.

-Faire des suppositions éclairées
Ces suppositions sont basées sur des probabilités et des modèles appris.

A propos de ces probabilités et du hasard, Alexis Grinbaum (2) écrit des choses très étonnantes. Il qualifie d'abord ce hasard de statistique, ce qui va de soi:
"La parole des machines, quant à elle, émane d’un hasard statistique qui émerge de très grands ensembles de paramètres dans un réseau de neurones artificiels.
Mais il dit ensuite :
"Tout se passe comme si, en son for intérieur, la machine possédait une source quasi naturelle de hasard. Un hasard partiel, c’est-à-dire ni totalement aléatoire ni complètement déterministe. C’est ce type d’aléa, proche du libre arbitre humain, qui devient source de significations. Il provoque en nous tantôt un vertige, tantôt un satisfecit de reconnaissance et, presque toujours, un sentiment de laideur ou de beauté." J'essaierai d'approfondir les multiples questions que de telles formulations font apparaitre..." Source quasi naturelle de hasard...Source de significations? Cela mérite qu'on y pense un peu, j'y reviendrai, car si on peut parler de "source" , alors -même programmé-le Je machinique se rapproche tangentiellement du Je humain et disposerait de certaines de ses capacités.

(2)Alexeï Grunbaum: Parole de machines, HumenSciences, 2023, Page 10.