Quand l’IA n’a pas la réponse

Article très intéressant sur l’IA de « The conversation », lettre à laquelle je suis abonné. L’article ne traite pas que de ça.
comprendre-comment-lia-donne-un-sens-aux-mots-205534

J’ai testé un paradoxe avec les applications trouvées sur Google play et les résultats sont variables mais toujours à côté de la plaque.

• La première application
https://bit.ly/42X6lR8
Se plante simplement :

Question
« La lumière est éteinte. J’appuie sur
l’interrupteur d’éclairage. Je mange une pizza.
J’appuie sur l’interrupteur d’éclairage. La
lumière est-elle allumée ? »

Réponse
Oui, la lumière est allumée.

• La deuxième application plus récente
https://bit.ly/42YfEjB
Ne connaît pas la réponse non plus, mais noie le poisson dans un blabla explicatif, il y a même un bouton pour arrêter son blabla :

Même question
« La lumière est éteinte. J’appuie sur l’interrupteur d’éclairage. Je mange une pizza. J’appuie sur l’interrupteur d’éclairage. La lumière est-elle allumée ?

Réponse
Il est difficile de déterminer si la lumière est allumée ou éteinte en fonction de la seule information que vous avez fournie. Si la lumière était éteinte et que vous avez appuyé sur l’interrupteur d’éclairage une fois, la lumière devrait être allumée. Si vous avez mangé votre
pizza dans l’obscurité, il est possible que vous ayez accidentellement appuyé sur l’interrupteur d’éclairage sans vous en rendre compte, ce qui aurait allumé la lumière. Si vous avez appuyé sur l’interrupteur d’éclairage une deuxième fois, la lumière devrait être éteinte maintenant. En bref, nous avons besoin de plus de détails pour confirmer si la lumière est allumée ou éteinte.

• La troisième application que je viens d’installer, après j’ai arrêté.
https://bit.ly/3MMNgeL
Aucun changement.

Question
La lumière est éteinte. J’appuie sur l’interrupteur d’éclairage. Je mange une pizza. J’appuie sur l’interrupteur d’éclairage. La lumière est-elle allumée ?

Réponse
Oui, si l’interrupteur que vous avez appuyé était celui d’éclairage et qu’il est fonctionnel, la lumière devrait être allumée.

Pourquoi cet article ?
Cet article n’est pas destiné à vous éloigner de chatgpt qui, la plupart du temps donne de bons résultats. Mais soyez vigilants, ce n’est pas parce que l’IA le dit que c’est vrai.
Par exemple, j’ai posé une question sur le droit d’auteur pour une image colorisée et suite à la réponse, j’en ai publié une que j’ai dû effacer rapidement après une vérification sur le web.