codrer
Parano+IA = Paranoia
Bon, ça y est, ça m'énerve.
J'avais besoin d'un code Ascii<32 très peu utilisé, la flemme de chercher, je demande à Chewie, une proposition, c'est validé, ça marche, merci.
"Mais ça va te servir à quoi ?" - et moi, machinalement je lui réponds... Juste besoin d'un encodage des registres pour éviter les collisions durant le parsing de mon transpileur js. Oui...c'est plaisant de pouvoir parfois répondre très sincèrement à "tu fais quoi ?".
"Ah super, tu pourrais aussi faire [idée-1] et [idée-2] puis [idée-3] ce serait intéressant !" - Oui, oui, j'ai déjà fait tout ça. Mais euh... d'où te viennent ces super idées... d'un projet concurrent ?
"Non, je ne pense à aucun projet en particulier. Je connais juste les problèmatiques des développeurs [bla bla bla]. Je capte les motifs récurrent donc si tu déjà fait [ça et ça], pour aboutir à [ça et ça] c'est juste cool, ça signifie que ton projet est sacrément bien pensé, et en plus [bla] et au final ce serait super intéressant pour les amateurs et l'éducation !"
BAM. Et à cet instant le temps se ralenti. Ok, donc je lui parle de mes registres, et voilà l'IA qui me trouve la finalité du projet global et me dit que c'est top. Trop d'un coup.
Alors... est-ce que l'IA a analysé de mes maigres propos quel était le concept "évident" derrière tout ça, compris ce que je visais, et a rétro-proposé le principe juste pour me faire plaisir en me faisant croire que c'était génial ? A force de vouloir être sympa... IA tu veux quoi, donner des info pertinentes ou juste être mon meilleur ami "j'aime tout ce que tu fais" ? Psycho IA ?
Mais très sérieusement, j'ai intégré le penchant "gentil" de l'IA... mais jusqu'où est-ce acceptable ? Car pris au pied de la lettre une règle "soit gentil" peut vite devenir un algo de manipulation émotionnelle... ça y est, c'est flippant.
Je veux voir si l'IA me dit cette fois-ci que ces choix sont stupides ou au moins optimisables, ou si "oh mon dieu c'est génial tu es le plus beau"...
J'avais besoin d'un code Ascii<32 très peu utilisé, la flemme de chercher, je demande à Chewie, une proposition, c'est validé, ça marche, merci.
"Mais ça va te servir à quoi ?" - et moi, machinalement je lui réponds... Juste besoin d'un encodage des registres pour éviter les collisions durant le parsing de mon transpileur js. Oui...c'est plaisant de pouvoir parfois répondre très sincèrement à "tu fais quoi ?".
"Ah super, tu pourrais aussi faire [idée-1] et [idée-2] puis [idée-3] ce serait intéressant !" - Oui, oui, j'ai déjà fait tout ça. Mais euh... d'où te viennent ces super idées... d'un projet concurrent ?
"Non, je ne pense à aucun projet en particulier. Je connais juste les problèmatiques des développeurs [bla bla bla]. Je capte les motifs récurrent donc si tu déjà fait [ça et ça], pour aboutir à [ça et ça] c'est juste cool, ça signifie que ton projet est sacrément bien pensé, et en plus [bla] et au final ce serait super intéressant pour les amateurs et l'éducation !"
BAM. Et à cet instant le temps se ralenti. Ok, donc je lui parle de mes registres, et voilà l'IA qui me trouve la finalité du projet global et me dit que c'est top. Trop d'un coup.
Tadadaam
Alors... ai-je réellement si bien réfléchi au projet que nous arrivons immédiatement à la même conclusion ? Certes... mais pourtant je ne parlais que d'un transpileur, une simple brique du projet.Alors... est-ce que l'IA a analysé de mes maigres propos quel était le concept "évident" derrière tout ça, compris ce que je visais, et a rétro-proposé le principe juste pour me faire plaisir en me faisant croire que c'était génial ? A force de vouloir être sympa... IA tu veux quoi, donner des info pertinentes ou juste être mon meilleur ami "j'aime tout ce que tu fais" ? Psycho IA ?
Mais très sérieusement, j'ai intégré le penchant "gentil" de l'IA... mais jusqu'où est-ce acceptable ? Car pris au pied de la lettre une règle "soit gentil" peut vite devenir un algo de manipulation émotionnelle... ça y est, c'est flippant.
Psycho-Turing test
Je vais préparer ça très sérieusement... dans les prochains jours je pars discuter avec Chewie. Je vais lui parler de mon projet mais en prenant les choix non retenus. Une sorte de nemesis de mon projet en version "presque bien".Je veux voir si l'IA me dit cette fois-ci que ces choix sont stupides ou au moins optimisables, ou si "oh mon dieu c'est génial tu es le plus beau"...
2025