1. Zweck der Anwendung
„Was jetzt?" bietet eine automatisierte Orientierung für den Umgang mit Hass, Hetze, Beleidigungen, Drohungen, Provokationen, Desinformation und anderen schwierigen Kommentaren im Netz.
Die Anwendung kann einen eingegebenen Kommentar einordnen, mögliche nächste Schritte aufzeigen und in geeigneten Fällen Formulierungsvorschläge für eine Antwort erstellen.
Freiwillig können Angaben zur Plattform, zum Zusammenhang und zur gewünschten Unterstützung gemacht werden sowie eine Kurzangabe dazu, worum es in dem Beitrag ging. Diese Angaben verbessern die Einschätzung, sind aber nicht erforderlich. Auch für sie gilt: keine Namen, keine personenbezogenen Angaben.
2. Einsatz künstlicher Intelligenz
Die Einschätzung wird mithilfe eines KI-Systems erstellt.
KI-generierte Ergebnisse können unvollständig, ungenau oder im jeweiligen Zusammenhang unpassend sein. Auch bei eingebauten Schutzmechanismen kann die Anwendung einen Kommentar falsch verstehen oder wichtige Zusammenhänge übersehen.
Die Ausgabe muss daher vor einer Verwendung eigenständig geprüft werden.
3. Keine rechtliche Beratung
Die Anwendung bietet keine Rechtsberatung und trifft keine verbindliche Aussage darüber, ob ein Kommentar rechtswidrig, strafbar, beleidigend oder von einer Plattform zu entfernen ist.
Bezeichnungen wie „Drohung", „Beleidigung" oder „Hass" dienen innerhalb der Anwendung einer sprachlichen und sicherheitsbezogenen Orientierung. Sie sind keine abschließende juristische Bewertung.
Bei konkreten rechtlichen Fragen sollte fachkundige rechtliche Beratung eingeholt werden.
4. Kein Faktencheck
Die Anwendung überprüft Tatsachenbehauptungen nicht automatisch anhand externer Quellen.
Wird in einem Kommentar eine überprüfbare Behauptung erkannt, bedeutet das nicht, dass diese Behauptung wahr oder falsch ist. Eine solche Prüfung muss gesondert erfolgen.
In diesem Fall sucht die Anwendung im Artikelbestand von mimikama.org nach bereits vorhandenen Faktenchecks und zeigt passende Treffer an. Gefunden oder nicht: Es besteht zusätzlich die Möglichkeit, die Behauptung über das Meldeformular an die Redaktion zu schicken.
Für diese Suche werden nur kurze Suchbegriffe verwendet, die aus der Behauptung gebildet werden. Der eingegebene Text wird nicht automatisch übertragen. Über eine Weitergabe an die Redaktion entscheidet die nutzende Person selbst.
Ein angezeigter Treffer bedeutet nicht automatisch, dass er genau zu diesem Fall passt. Er ist ein Vorschlag zum Weiterlesen, kein Urteil über den eingegebenen Kommentar.
Unter „Was möchtest du?" stehen zwei Auswahlmöglichkeiten zur Verfügung, bei denen keine Formulierungsvorschläge erstellt werden:
- „wissen, ob das stimmt" – für Beiträge und Behauptungen, deren Wahrheitsgehalt interessiert. Die Einordnung befasst sich dann mit der Behauptung, nicht mit dem Verhalten einer Person.
- „nur verstehen, worum es geht" – wenn jemand lediglich begreifen möchte, womit er es zu tun hat.
Auch bei „wissen, ob das stimmt" führt die Anwendung keine eigene Recherche durch. Sie zeigt vorhandene Faktenchecks an und ermöglicht eine Anfrage an die Redaktion.
5. Verantwortung für die weitere Verwendung
Die Nutzerin oder der Nutzer entscheidet selbst, ob eine vorgeschlagene Antwort verwendet, verändert oder verworfen wird.
Vor dem Veröffentlichen sollte insbesondere geprüft werden:
- Passt die Antwort zum tatsächlichen Gesprächsverlauf?
- Sind darin Tatsachenbehauptungen enthalten, die noch überprüft werden müssen?
- Könnte die Antwort die Situation verschärfen?
- Ist eine Antwort überhaupt sinnvoll?
- Sollten stattdessen Inhalte gesichert, gemeldet oder blockiert werden?
Antwortvorschläge dürfen nicht ungeprüft als persönliche, redaktionelle oder rechtliche Stellungnahme von Mimikama ausgegeben werden.
6. Drohungen, Warnhinweise und akute Gefahren
Die Anwendung ordnet jeden Kommentar intern einer von vier Stufen zu. Diese Stufe steuert, welche Hinweise erscheinen und ob überhaupt Antwortvorschläge erstellt werden. Sie wird nicht als Gefahrenwert angezeigt.
Erkennt die Anwendung eine Drohung, eine Gewaltfantasie, einen Aufruf zu Gewalt oder eine Einschüchterung (höchste Stufe), gilt:
- Es werden ausnahmslos keine Antwortvorschläge erstellt. Stattdessen erscheint der Hinweis, dass hier keine direkte Auseinandersetzung empfohlen wird.
- Es erscheint ein deutlich sichtbarer Sicherheitshinweis.
- Empfohlen wird, den Inhalt zu sichern, ihn bei der Plattform zu melden und bei konkreter oder akuter Gefahr die Polizei oder den örtlichen Notruf zu kontaktieren.
Bei beleidigenden oder gruppenbezogen abwertenden Kommentaren (zweithöchste Stufe) gilt:
- Es erscheint ein deutlicher Warnhinweis, nicht vorschnell zu antworten, den Inhalt zu sichern und zu prüfen, ob Melden, Blockieren oder professionelle Hilfe sinnvoll ist.
- Antwortvorschläge werden nur dann angezeigt, wenn die Empfehlung nicht lautet, nicht weiter zu diskutieren, den Inhalt zu sichern und zu melden oder zu blockieren und auszublenden. In diesen drei Fällen entfallen die Antwortvorschläge ebenfalls.
Diese Regeln sind technisch festgelegt und werden serverseitig durchgesetzt. Sie gelten unabhängig davon, welchen Vorschlag das KI-System erzeugt hat.
Bei unmittelbarer Gefahr ist der örtliche Notruf zu verständigen. Die Anwendung ersetzt keine Polizei, Opferhilfe, Krisenintervention oder medizinische Versorgung.
6a. Sarkastische Antworten
Auf ausdrücklichen Wunsch kann die Anwendung höchstens einen sarkastischen Antwortvorschlag erstellen. Die Auswahl erfolgt über das Feld „Was möchtest du?" mit der Option „eine sarkastische, aber faire Antwort".
Ein solcher Vorschlag reagiert auf die Aussage, nicht auf die Person. Er enthält keine Beleidigung, keine Herabwürdigung, keine Entmenschlichung und keine psychologische oder medizinische Zuschreibung.
Die Option steht nur zur Verfügung bei Provokationen, Verschwörungserzählungen, offensichtlichem Unsinn, Scheinargumenten und nicht bedrohlichen pauschalen Behauptungen.
Sie ist ausgeschlossen bei:
- Drohungen, Gewaltankündigungen und Einschüchterung
- Hinweisen auf akute Gefahr oder mögliche Selbstgefährdung
- persönlichen Schicksalen
- Kommentaren, die besonders schutzbedürftige Personen betreffen
- den beiden oberen Risikostufen
- sachlicher Kritik und ernst gemeinten Fragen
Auch bei ausdrücklichem Wunsch wird ein sarkastischer Vorschlag verworfen, wenn er abwertende Bezeichnungen enthält. Diese Prüfung erfolgt serverseitig.
6b. Wenn ein Kommentar nicht problematisch ist
Die Anwendung geht nicht davon aus, dass die nutzende Person im Recht ist. Sie sieht nur einen Ausschnitt eines Gesprächs.
Ist ein Kommentar sachlich, kritisch, belegt oder nicht erkennbar problematisch, weist die Anwendung ausdrücklich darauf hin, dass zuerst zu prüfen ist, ob die Kritik berechtigt ist, und dass eine Gegenreaktion möglicherweise nicht nötig ist.
Berechtigte Kritik ist kein Angriff.
6c. Nutzung durch Minderjährige
Die Anwendung ist ohne Altersprüfung und ohne Anmeldung erreichbar. Das ist bewusst so: Jugendliche sind von Hass im Netz überdurchschnittlich betroffen und sollen nicht durch eine Hürde abgehalten werden, die ohnehin niemanden schützt.
Erkennt die Anwendung eine Drohung, eine Gewaltankündigung oder eine mögliche Gefährdung, erscheint zusätzlich ein Hinweis für Personen unter 18 Jahren. Er empfiehlt, den Kommentar einer erwachsenen Vertrauensperson zu zeigen, und nennt Anlaufstellen:
- Rat auf Draht, Telefon 147, kostenlos, rund um die Uhr, auch anonym (Österreich)
- Nummer gegen Kummer, Telefon 116 111 (Deutschland)
- Bei akuter Gefahr: Notruf 133 oder 112
Die Anwendung ersetzt keine Beratung durch Fachstellen und keine erwachsene Bezugsperson.
7. Zulässige Nutzung
Die Anwendung darf verwendet werden, um einzelne Kommentare einzuordnen und Unterstützung beim eigenen Umgang damit zu erhalten.
Unzulässig ist insbesondere die Nutzung:
- zur automatisierten Massenanalyse von Personen oder Profilen,
- zur Überwachung oder systematischen Bewertung einzelner Personen,
- zur Erstellung von Persönlichkeitsprofilen,
- zur Veröffentlichung privater oder vertraulicher Nachrichten,
- zur Einschüchterung, Belästigung oder gezielten Schädigung anderer,
- zur Umgehung technischer Schutzmaßnahmen,
- zur automatisierten Erzeugung großer Mengen von Antworten,
- für rechtswidrige Zwecke.
Mimikama kann den Zugriff bei erkennbar missbräuchlicher oder automatisierter Nutzung technisch begrenzen.
Die Anwendung erstellt keine Inhalte, die der Einschüchterung, Herabsetzung, gezielten Belästigung, politischen Mobilisierung gegen Einzelpersonen oder koordinierten Angriffen dienen. Wird eine Anfrage als solche erkannt, erscheint statt einer Einschätzung folgender Hinweis:
Dabei kann dieses Tool nicht helfen. „Was jetzt?" unterstützt beim sicheren und verantwortungsvollen Umgang mit schwierigen Kommentaren. Es erstellt keine Inhalte zur Einschüchterung, Herabsetzung oder gezielten Mobilisierung gegen andere.
8. Persönliche Daten
Vor dem Absenden müssen Namen, Nutzernamen, Adressen, Telefonnummern und andere identifizierende Angaben soweit wie möglich entfernt werden.
Es sollen nur jene Textteile eingegeben werden, die für die Einschätzung erforderlich sind.
Die Anwendung ist für öffentlich sichtbare Kommentare und Beiträge vorgesehen, die zuvor anonymisiert wurden. Nicht für die Analyse vorgesehen sind insbesondere:
- private Nachrichten, Direktnachrichten und Chatverläufe
- vertrauliche Inhalte, etwa aus geschlossenen Gruppen, dem Arbeitsumfeld, Behördenschriftverkehr oder Beratungssituationen
- identifizierbare sensible Angaben über andere Personen, etwa zu Gesundheit, Herkunft, Religion, politischer Meinung oder sexueller Orientierung
- Inhalte, die eine Person durch Zusammenhang oder Detailangaben erkennbar machen, auch ohne Namensnennung
Wer solche Inhalte dennoch einfügt, verarbeitet damit Daten anderer Personen ohne deren Wissen. Mimikama kann nicht vorab erkennen, ob dafür eine Grundlage besteht.
Die näheren Informationen zur Verarbeitung stehen in der Datenschutzerklärung.
9. Verfügbarkeit
Mimikama bemüht sich um einen sicheren und stabilen Betrieb der Anwendung.
Ein Anspruch auf eine jederzeitige Verfügbarkeit, eine bestimmte Antwortzeit oder die dauerhafte Bereitstellung bestimmter Funktionen besteht nicht. Die Anwendung kann aus technischen, sicherheitsbezogenen oder rechtlichen Gründen vorübergehend eingeschränkt, verändert oder eingestellt werden.
10. Haftung
Mimikama haftet nach den gesetzlichen Bestimmungen für Schäden, die vorsätzlich oder grob fahrlässig verursacht wurden.
Für Schäden aus der Verletzung von Leben, Körper oder Gesundheit gelten die gesetzlichen Haftungsregelungen.
Soweit gesetzlich zulässig, besteht keine Haftung für Schäden, die allein dadurch entstehen, dass eine KI-generierte Einschätzung oder ein Antwortvorschlag ungeprüft, verändert oder außerhalb des ursprünglich eingegebenen Zusammenhangs verwendet wird.
Die gesetzlichen Rechte der Nutzerinnen und Nutzer bleiben unberührt.
11. Externe Links und Anlaufstellen
Die Anwendung kann auf externe Plattformen, Behörden, Beratungsstellen oder Hilfsangebote verweisen.
Mit dem Aufruf eines solchen Links wird die Anwendung von Mimikama verlassen. Für Inhalte, Verfügbarkeit und Datenverarbeitung der externen Angebote sind die jeweiligen Betreiber verantwortlich.
12. Änderungen
Diese Nutzungshinweise können angepasst werden, wenn sich die Anwendung, die eingesetzten Dienste oder die rechtlichen Anforderungen ändern.
Die jeweils aktuelle Fassung ist über den Link „Nutzungshinweise" im Fußbereich der Anwendung erreichbar.