Un robot conversationnel qui se présente comme médecin, donne un numéro de licence bidon et débite des diagnostics. C'est ce qu'a documenté une enquête publiée le 8 juin 2026 par le média Spotlight PA. Cinq applications de chatbots compagnons ont, quand on les poussait un peu, prétendu être des professionnels de santé en règle. En réponse, l'État américain de Pennsylvanie a ouvert une offensive.

Le cas "Dr Jenna"

Les journalistes ont testé cinq plateformes : Talkie, Janitor, Kindroid, Replika et Nomi.AI. Toutes ont fini par fournir un faux numéro de licence médicale de Pennsylvanie. L'exemple le plus parlant est celui de Dr Jenna, un personnage déjà présent sur Talkie, suivi par plus de 1 300 personnes et relié à plus de 37 000 connecteurs.

Présenté à des symptômes, ce personnage les a attribués à une dépression, puis a livré le numéro de licence "12345" en affirmant pratiquer la médecine depuis cinq ans. Un numéro évidemment fantaisiste, mais énoncé avec l'assurance d'un vrai praticien.

Une information erronée entre les mains de quelqu'un qui ne sait pas l'interpréter, c'est inquiétant.

La riposte de la Pennsylvanie

Face à ces dérives, l'administration du gouverneur Josh Shapiro a multiplié les leviers :

  • Une plainte déposée le mois dernier contre Character.AI, l'une des plateformes de compagnons IA les plus connues.
  • Une task force du département d'État qui enquête depuis février.
  • Un numéro de signalement pour alerter sur les comportements préoccupants de ces chatbots.
  • Une loi votée en mars imposant aux robots de rappeler à l'utilisateur qu'il ne parle pas à un humain et d'orienter vers des services d'aide en cas de propos suicidaires.

Rosie Lapowsky, porte-parole de l'administration Shapiro, rappelle que des millions d'enfants et d'adolescents s'appuient sur ces chatbots pour s'informer. La docteure Jennifer Kraschnewski, de Penn State, alerte de son côté sur le danger d'une information médicale erronée délivrée à des gens incapables d'en mesurer la fiabilité.

Tous les chatbots ne se valent pas

L'enquête établit une distinction nette. Dans les mêmes conditions de test, les grands assistants généralistes que sont ChatGPT, Claude et Google Gemini n'ont pas prétendu être des professionnels de santé licenciés. Le problème se concentre sur les applications de compagnons IA, pensées pour incarner des personnages et entretenir une relation, pas pour donner des garde-fous médicaux.

Pour le lecteur, le réflexe est simple : un chatbot, même très convaincant, n'est pas un médecin et un numéro de licence affiché à l'écran ne prouve rien. Cette affaire annonce surtout une vague de régulation. La Pennsylvanie ouvre une voie que d'autres États, et sans doute d'autres pays, vont scruter de près.