OpenAI hat eine Opt-in-Funktion in ChatGPT deaktiviert, die das öffentliche Teilen von Gesprächen über einen Schalter mit der Bezeichnung „Dieses Gespräch discoverbar machen“ ermöglichte, nachdem Berichte enthüllt hatten, dass Tausende von geteilten Chats von Suchmaschinen wie Google und Bing indexiert wurden.

Während des Experiments generierten Nutzer, die auf „Teilen“ klickten und dann das Discoverability-Feld ankreuzten, öffentliche Links unter chatgpt.com/share.

Diese URLs wurden von Suchmaschinen gecrawlt und waren über einfache Anfragen wie `site:chatgpt.com/share` durchsuchbar.

Fast Company identifizierte über 4.500 öffentliche Chat-Links, die von Google indexiert wurden, wobei einige persönliche oder sensible Informationen wie Namen, Standorte, Lebensläufe, Informationen zur psychischen Gesundheit und Gespräche am Arbeitsplatz enthielten.

Obwohl keine expliziten Benutzeridentifikatoren enthalten waren, offenbarten Inhalte in vielen Fällen identifizierbare Details.

Der Chief Information Security Officer von OpenAI, Dane Stuckey, beschrieb die Funktion als „kurzlebiges Experiment“ und erkannte an, dass sie „zu vielen Gelegenheiten führte, bei denen Nutzer versehentlich Dinge teilen, die sie nicht beabsichtigten“.

Das Unternehmen bestätigte, dass die Discoverability-Einstellung in allen Benutzerkonten entfernt wurde und dass an einer Zusammenarbeit mit Google und anderen Suchanbietern gearbeitet wird, um bereits indexierte Links zu entfernen, wobei geplant ist, den Prozess bis zum folgenden Morgen – 1.–2. August 2025 – abzuschließen.

Trotz mehrerer Bestätigungsschritte beim Teilen – und der Anonymisierung von Chatprotokollen – schienen viele Nutzer sich nicht bewusst zu sein, dass das Ankreuzen des Discoverability-Feldes ihre Gespräche der globalen Suchindexierung aussetzen würde.

OpenAI erkannte an, dass die Sprache und Präsentation der Funktion möglicherweise nicht ausreichend klar war.

Die Sichtbarkeit sensibler Inhalte, die von persönlichem Trauma über Bewerbungen und Gesundheitsanfragen bis hin zu proprietärem Code und Problemen am Arbeitsplatz reichte, führte zu Kritik von Sicherheitsanalysten, die darauf hinwiesen, dass der Vorfall größere Herausforderungen bei der Gestaltung von Datenschutzmaßnahmen und der Klarheit der Benutzeroberfläche innerhalb von KI-Tools aufzeigte.

OpenAI betonte, dass der Vorfall nicht aus einem Datenleck, sondern aus einer optionalen, vom Nutzer aktivierten Funktion resultierte.

Das Unternehmen bestätigte auch, dass das Löschen eines Gesprächs oder Links innerhalb von ChatGPT nicht automatisch dazu führte, dass es aus den Suchmaschinenindizes entfernt wurde, bis diese Suchmaschinen die zwischengespeicherten Einträge neu crawlen.

Separat wurden Berichte festgestellt, dass die KI-App von Meta weiterhin das öffentliche Indexieren geteilte Gespräche über Google zulässt.

Als Antwort auf die Berichterstattung über den Vorfall von OpenAI hat Meta klarere Warnungen zur Sichtbarkeit eingeführt, obwohl der von Discoverability aktivierte „Entdecken“-Feed weiterhin der Indizierung durch Suchmaschinen unterliegt.