{
  "$type": "site.standard.document",
  "bskyPostRef": {
    "cid": "bafyreib2hiqyjzhjaucfqyjvdayoarlw22ad3k423cpl2vjo6l46ye7dxq",
    "uri": "at://did:plc:yc5bdaprlbzruqnilm5zvqob/app.bsky.feed.post/3mk5di5jbw262"
  },
  "coverImage": {
    "$type": "blob",
    "ref": {
      "$link": "bafkreifr7ohmj6sffk7ilaebym3s5oonh6vnsmhcvpdzst26nh2u5ayema"
    },
    "mimeType": "image/jpeg",
    "size": 330591
  },
  "description": "Des chercheurs suédois ont inventé une fausse maladie pour piéger les IA. En quelques semaines, ChatGPT et Gemini la présentaient comme réelle, et elle s'est propagée dans la littérature académique.",
  "path": "/bixonimania-quand-lia-transforme-une-blague-en-verite-scientifique/",
  "publishedAt": "2026-04-23T06:00:00.000Z",
  "site": "https://da.van.ac",
  "tags": [
    "Researchers Invented a Fake Disease to Trick AI and the Funniest Possible Thing HappenedResearchers uploaded two fake studies about a fake skin condition to a preprint server to trick large language models.FuturismVictor Tangermann",
    "Framework #FLTR — Note méthodologiqueProtocole de production et de publication dont la ligne éditoriale est codée dans l’ADN-même du projet. Cette architecture auto-apprenante transforme une intention humaine en contraintes techniques, imposées tant aux outils d’intelligence artificielle qu’aux humains qui les entrainent, et vice-versaDamien Van Achter - First Learn The Rules. Then Break ThemDamien Van Achter",
    "56_2025-2026/60 - IA militaire en Belgique : transparence et règles — demande de contrôle parlementaire - 56_2025-2026/60 - IA militaire en Belgique : transparence et règles — demande de contrôle parlementaire - Pétitions - PetitiesL’AI Act européen exclut la sécurité nationale de son champ. Aucun texte belge n’encadre donc l’usage de l’IA par la Défense nationale et la Police fédérale.Je demande à la Chambre d’adopter une résolution pour :(1) obtenir du gouvernement un état des lieux des systèmes IA déployés et de leurs garanties contractuelles ; (2) fixer des règles nationales minimales ; et (3) se prononcer sur l’usage de l’IA pour la surveillance de masse et les armes sans supervision humaine.Logo officiel de Pétitions - PetitiesDamien Van Achter Créé le 28/02/2026",
    "sur le site",
    "LinkedIn",
    "Bluesky",
    "Mastodon",
    "Facebook",
    "Discord",
    "à mon agenda"
  ],
  "textContent": "Researchers Invented a Fake Disease to Trick AI and the Funniest Possible Thing HappenedResearchers uploaded two fake studies about a fake skin condition to a preprint server to trick large language models.FuturismVictor Tangermann\n\nL'expérience menée par Almira Osmanovic Thunström révèle un mécanisme inquiétant : il suffit de quelques semaines pour qu'une invention pure se transforme en 'fait' validé par l'IA. L'équipe de Göteborg a créé 'bixonimania', une prétendue maladie de peau causée par les écrans, avec des références volontairement absurdes à Star Trek et aux Simpson. Malgré ces signaux d'alarme évidents, les modèles de Google et OpenAI ont mordu à l'hameçon. Plus grave : la fausse maladie a commencé à être citée dans de vraies publications académiques, créant une boucle de légitimation.\n\n> \"C'est inquiétant quand ces affirmations majeures passent dans la littérature sans être remises en question, ou passent la peer-review sans être contestées\"\n\n_— Almira Osmanovic Thunström, Chercheuse médicale, Université de Göteborg_\n\nQuand Nature a interrogé ChatGPT, l'IA a d'abord douté, puis s'est ravisée quelques jours plus tard pour affirmer que la maladie était réelle. Cette contamination révèle l'effondrement des garde-fous : l'IA aspire tout contenu sans discernement, les chercheurs s'appuient sur l'IA pour leurs références, et les comités de lecture laissent passer des aberrations. Le cycle de validation scientifique traditionnel s'autodétruit.\n\n### Points de vigilance\n\n _Risque de focaliser sur l'anecdote plutôt que sur le mécanisme systémique. L'IA n'est qu'un révélateur de la fragilité du processus de validation scientifique._\n\n### Et maintenant ?\n\n  * **🤘 Créer des consortiums de vérification croisée entre revues scientifiques**\n\n\n\nAlliance entre éditeurs académiques (Nature, Science, PLOS) pour partager une base commune de références vérifiées et signaler les sources douteuses. Mécanisme : chaque soumission est automatiquement confrontée aux alertes du consortium avant peer-review.\n\n_→ On saura que ça marche quand les rétractations pour références fictives chuteront de 80% dans les revues participantes._\n\n  * **🤘 Organiser des audits citoyens des bases de données d'entraînement IA**\n\n\n\nCoalitions de chercheurs indépendants et d'associations pour documenter publiquement les sources utilisées par les grands modèles. Créer une pression réputationnelle sur OpenAI, Google et Anthropic pour qu'ils révèlent leurs datasets.\n\n_→ On saura que ça marche quand au moins un acteur majeur publiera la liste complète de ses sources d'entraînement._\n\n  * **💪 Développer des réflexes de vérification systématique des références IA**\n\n\n\nAvant d'utiliser une information fournie par ChatGPT ou Gemini, vérifier systématiquement les sources primaires. Créer des habitudes de double-vérification qui se propagent par l'exemple dans les équipes de recherche.\n\n_→ On saura que ça marche quand les formations universitaires intégreront obligatoirement des modules de fact-checking des sources IA._\n\n* * *\n\n> 8/10 : Score sur l'échelle des \"5 piliers de la liberté\", inspiré de l'ouvrage de Timothy Snyder\n\nFramework #FLTR — Note méthodologiqueProtocole de production et de publication dont la ligne éditoriale est codée dans l’ADN-même du projet. Cette architecture auto-apprenante transforme une intention humaine en contraintes techniques, imposées tant aux outils d’intelligence artificielle qu’aux humains qui les entrainent, et vice-versaDamien Van Achter - First Learn The Rules. Then Break ThemDamien Van Achter\n\n* * *\n\n**Ces pistes ne sont pas des recettes toutes faites, mais des points d'entrée pour repenser nos systèmes numériques selon une logique de liberté positive : non pas limiter, mais augmenter nos capacités collectives d'action.**\n\n_Le règlement européen sur l'IA exclut explicitement la sécurité nationale de son périmètre. En Belgique, aucun cadre législatif ne régit aujourd'hui l'utilisation de l'intelligence artificielle par la Défense ou la Police fédérale. La pétition déposée à la Chambre demande trois choses concrètes : un inventaire des systèmes IA déjà déployés, des standards nationaux minimaux, et un positionnement parlementaire sur la surveillance de masse et les armes autonomes._\n\n_**Comment agir ?** La pétition nécessite 25 000 signatures, réparties entre la Flandre, la Wallonie et Bruxelles, pour déclencher un examen parlementaire. C'est un mécanisme démocratique existant — il suffit de l'activer. Signer prend moins d'une minute sur le site de la Chambre _\n\n56_2025-2026/60 - IA militaire en Belgique : transparence et règles — demande de contrôle parlementaire - 56_2025-2026/60 - IA militaire en Belgique : transparence et règles — demande de contrôle parlementaire - Pétitions - PetitiesL’AI Act européen exclut la sécurité nationale de son champ. Aucun texte belge n’encadre donc l’usage de l’IA par la Défense nationale et la Police fédérale.Je demande à la Chambre d’adopter une résolution pour :(1) obtenir du gouvernement un état des lieux des systèmes IA déployés et de leurs garanties contractuelles ; (2) fixer des règles nationales minimales ; et (3) se prononcer sur l’usage de l’IA pour la surveillance de masse et les armes sans supervision humaine.Logo officiel de Pétitions - PetitiesDamien Van Achter Créé le 28/02/2026\n\n### 💬 On en discute ?\n\nTu veux recevoir le flux quotidien des articles publiés sur le site ? Suis-moi sur LinkedIn, Bluesky, Mastodon, Facebook ou rejoins-moi sur Discord !\n\nTu as des remarques, des suggestions, ou tu veux discuter d'une idée pour avancer dans tes propres projets ? Connecte-toi et laisse-moi un commentaire ou jette un oeil directement à mon agenda. 📆\n\n## First Learn The Rules. Then Break Them\n\nTous les dimanches à 19h, l'analyse d'une actu majeure, sans jargon et avec des sources fiables. Pas de fatalisme mais des pistes d'action concrètes à expérimenter. Et les coulisses de mes projets avec mes partenaires et mes étudiants.\n\nJe m'abonne\n\nEmail sent! Check your inbox to complete your signup.\n\n__No spam. La vraie fidélité, c'est celle de quelqu'un qui peut partir.__",
  "title": "Bixonimania : quand l'IA transforme une blague en vérité scientifique",
  "updatedAt": "2026-04-23T06:00:01.656Z"
}