«Je ne m’étais jamais rendu compte que […] de si courtes interactions avec un programme informatique relativement simple risquaient d’induire des pensées délirantes chez des personnes pourtant normales.» Lorsque ces mots ont été griffonnés, ChatGPT et consorts relevaient encore de la science-fiction. Leur lointaine ancêtre, l’équivalent de notre australopithèque Lucy, venait de voir le jour : nous sommes en 1966, dans un laboratoire du Massachusetts Institute of Technology (MIT), et l’informaticien Joseph Weizenbaum (1923-2008) vient de mettre au point ce qu’on considère comme le tout premier chatbot, «Eliza».
Le programme est pensé comme une simulation, ou plutôt une parodie, de psychologue : la seule chose qu’Eliza sait faire, c’est reformuler les phrases qui lui sont soumises. «Je me sens triste. − Pourquoi te sens-tu triste ?» Pourtant, très vite, les collègues de Weizenbaum sont pris d’une frénésie et le sollicitent sans discontinuer pour s’épancher auprès d’Eliza - jusqu’à sa propre secrétaire qui lui demande un jour d’essayer à son tour, et, au bout de quelques minutes d’échange, réclame que Weizenbaum sorte de la pièce pour la laisser converser en paix. Echaudé par l’expérience, Weizenbaum devient l’une des grandes voix critiques de l’IA, qu’il décrit comme «un outil de mesure de la
