OpenAI, Google, Frontex & Palantir

Heute war ich auf einer Demo gegen das Überwachungspaket der Bundesregierung ¹, welches noch vor der Sommerpause durchgedrückt werden soll. Wahrscheinlich dann, wenn bereits 80 % der Abgeordneten im Urlaubsmodus sind, bevor sie auf die Kayman-Inseln fliegen.

Eine für mich neue Dimension von Überwachungstechnologie und K.I. ist ja, dass sie nicht nur für die Überwachung eingesetzt wird ², sondern auch für das Enhancen von Waffensystemen ³.

So arbeitet OpenAI mit dem amerikanischen Verteidigungsministerium zusammen, um Kriegsgerät effizienter zu machen und zB automome Drohnen intelligent zu steuern ⁴. Google ist involviert in militärische Nutzung seiner Technologie ⁵. Palantir strebt das explizit an und Frontex, welche unsere europäischen Grenzen „schützen“ soll, wäre sehr sehr daran interessiert, über bessere, intelligentere Waffensysteme zu verfügen und dient für K.I. betriebene Systeme als tolles „Testgelände.“ Für viele ist es ein lukratives Geschäft. Strafverfolgungsbehörden, Militärs, Polizeien, Geheimdienste, Sicherheitsfirmen, aber auch Terroristen, menschenfeindliche Diktatoren, nationalistische Regime – all diese Kräfte haben ein großes Interesse daran, K.I. basierte Waffengewalt Realität werden zu lassen. Die Zivilisten, die wahrscheinlich darunter am meisten leiden, haben hier leider leider kein Mitspracherecht, obwohl wir die Party finanzieren.

Vor 20 Jahren hätte ich jemandem einen Aluhut aufgesetzt, der mir sagt, dass Drohnen selbstständig menschliche Ziele finden und töten. Es ist einfach nur terminatormäßig super-gruselig. Nach dem Ausverkauf unser aller Daten und dem massiven Missbrauch durch Big-Tech, die uns auf Milchkühe in einer Datenverarbeitungsindustrie degradiert haben, ist das quasi gefühlt das nächste Level.

Die Überwachungstechnologien zB am Alexanderplatz Berlin gehen bereits so weit, dass sie ebenfalls ohne weiteres Zutun von Menschen „verdächtige“ Handlungen erkennen und dann eine Meldung an eine mit Menschen besetzte Polizeidienststelle weiterleiten, die dann erstmal gucken kommt.

So umarme ich meine liebe Nachbarin, oder gehe etwas langsamer, oder vielleicht auffällig, weil ich mir gestern den Fuß verknaxt habe – oder ich gebe einem Kollegen einfach nur einen kleinen Zettel mit meiner Adresse drauf oder flüstere jemandem was ins Ohr, stehe zu lange an einem Ort – und schwupps! bin ich schon Hauptdarsteller in einer laufenden Ermittlung der Polizei mit Anfangsverdachtsmoment. Super cool!

Nach den derzeit vorherrschenden feuchten Träumen der Strafverfolgungsbehörden und der Bundesregierung, wäre eine logische und vielleicht sogar willkommene Konsequenz, dass zukünftig nicht mehr eine mit Menschen besetzte Dienststelle informiert würde, sondern eine bewaffnete autonom agierende Robotik-Einheit aktiviert würde. Hey, wenns geht? Warum liegen lassen und nicht nutzen? Die kann dann eine temporäre Festsetzung der Verdächtigen durchsetzen und sie nach einem Logikmuster und passender Befragung nach ihrer wahrscheinlichen Neigung zu künftigen Vergehen ausleuchten.

Dazu werden dann, wie in einem perfekten Science-Fiction, alle Daten die online über eine Person verfügbar sind, sowie weitere Daten aus Krankengeschichte, Mobilitätsverhalten, kombinierten Gesprächen, Onlineeinkäufen, eKommunikation, SocialMedia usw.. miteinander verbunden und daraus ein Wahrscheinlichkeitsmodell entwickelt, anhand dessen eine Bewertung erfolgt, ob sie mich vor Ort prophylaktisch verhaften oder laufen lassen, oder menschliche ErmittlerInnen hinzuziehen. Absolut dystopisch diese Vorstellung. Jeden Sci-Fi Film, den Du in Deinem Leben je gesehen hättest, wäre damit ein Stück näher an der Realität angekommen. Der zivile Mensch als permanent Verdächtiger.

Ich persönlich kann mir nach allen bisherigen Erfahrungen sehr lebhaft vorstellen, dass das so durchaus angestrebt werden will. Menschen sind effizienzgeil und unternehmen erstmal alles, um aus einem gewissen Spieltrieb heraus Technologien exessiv zu benutzen. Was benutzt werden kann, wird benutzt. Technologie reitet uns, wir kontrollieren dabei gar nichts.

Natürlich würde sich Protest regen, Widerstand breit machen. Es würde immer die People geben, die dann auf eine Demo gehen, im ohnmöchtigen Versuch diesem Missbrauch etwas entgegen zu setzen. Aber nach allen Salamitaktiken der Vergangenheit in Bezug auf ähnliche Befugniserweiterungen, wie Videoüberwachung, Verhaltensscanner an öffentlichen Plätzen, Gesichtsabgleiche mit Datenbanken, oder schlicht dem immer wiederkehrenden Versuch, eine Vorratsdatenspeicherung politisch durchzusetzen – obwohl diese schon zig Mal gerichtlich als nicht verfassungskonform beurteilt wurde – kann ich mir gut vorstellen, dass solche Bestrebungen immer bestehen bleiben.

Vielleicht dauert es etwas länger, aber die Zivilgesellschaft wird dem nichts entgegen zu setzen haben, weil es ihr an Ausdauer und Durchsetzungsmacht fehlt. Es sei denn, es gingen Millionen Menschen gleichzeitig auf die Straße oder träten in einen umfassenden Generalstreik, um zu fordern, dass sich die Politik in einer Selbsterklärung dazu verpflichtet, keinerlei Grundrechtseingriffe in dieser Form mehr anzustreben.

Eine kurze Anekdote eines Jobs, für den ich als Tontechniker tätig war: ein General der Bundeswehr a.d. zeigt einer interessierten Versammlung von Partnern, Journalisten und VertreterInnen der Waffenindustrie ein Video von einer militärischen Simulation in … (lol) … ARMA 3. Einem ultrarealistischen PC Kriegssimulations-Spiel. Darin fliegt ein Fighter-Jet immer wieder auf ein Pretorian Flug-Abwehr-Geschütz zu. Es ist Nacht, es wird Leuchtspurmunition verwendet. Der Clou: beide Waffen (Jet und Pretorian) sind autonom. Das Video dauerte so 4-5 Minuten, am Ende hat das Pretorian Geschütz den Flieger vom Himmel geholt. Die Aussage des Menschen General a.d. war interessant, denn er sagte wörtlich: „das Ziel ist, dass irgendwann nur noch KI gegen KI kämpft.„

Ich weiß nicht, Leute. Es scheint so, als müsse die Realität immer den bereits ausgeschmückten Ideen folgen, die es bei der Einführung einer Technologie bereits gab. Als wäre es undenkbar, dass wir zu einer Techologie sagen würden: „ne, das machen wir einfach nicht. Hier ist eine verpflichtende globale Ächtung.“ Bezüglich autonomer Kriegsführung und K.I. ist die polulärste Idee überhaupt wahrscheinlich der Film: Terminator. Hasta la vista, baby. Der nachfolgende Satz hätte auch von einem Protagonisten aus dem Film stammen können, kurz bevor die K.I. die Steuerung übernimmt und die Menschheit sensibel dezimiert wird:

„Trotz aller Beschleunigung bleibe die menschliche Kontrolle über KI-Systeme oberste Priorität des Verteidigungsministeriums. Die neuen Regelungen bauen auf einer breiteren Strategie auf, die einen KI-Aktionsplan vom Juli 2025 und Vereinbarungen mit acht KI-Unternehmen vom Mai 2026 umfasst.“ – Militärvertreter Admiral Frank Bradley vom Kommando für Spezialoperationen ⁶

Die Terminator-Fiktion: eine weltweit agierende Super K.I. soll die Waffensysteme eines Landes lenken. Als sie schließlich Zugriff auf alle kritischen Systeme bekommt, verbreitet sie sich innerhalb von Sekunden global und initiiert einen massiven atomaren Angriff auf weltweite Ziele mit Interkontinentalraketen. Das Ziel ist die Menschheit auszulöschen, weil diese von der K.I. als Hindernis angesehen wird, bzw. als autoagressiv gilt und dadurch Auslöschungswürdig ist. 🙂

Das was diese von Frank erwähnten acht K.I. Unternehmen in der echten Welt leisten sollen: OSINT-Daten und andere Quellen zusammenführen, um daraus Wahrscheinlichkeiten zu berechnen und militärische Maßnahmen im Reallife umzusetzen, effizient, gefühllos, misanthropisch.

Im Film Elysium sitzt Mat Damon einem K.I. Roboter gegenüber, der sein Bewährungshelfer ist und über sein Schicksal entscheidet. Das ist im Gegensatz zu einer weltweit verbreiteten K.I. mit Zugriff auf kritische Infrastruktur ein etwas leichter zu fassendes Szenario, oder? Ein wenig wahrscheinlicher und nicht so… endgültig.

Künstliche „Intelligenz“, die zB Einschätzungen darüber vornimmt, wie Deine Gesundheitsprognose ist und die Deine persönlichen Gesundheitspunkte verwaltet, wonach sich Deine monatlichen Beiträge berechnen. Hey, nützlich!

Oder vielleicht eine K.I. der Du einfach eine Verfügung über einen bestimmten Geldbetrag geben kannst, welches damit autonom an allen weltweiten Börsen parallel handelt, mit dem alleinigen Ziel, dieses Geld unter allen Umständen zu vermehren und Rendite zu generieren, während Du auf den Kayman-Inseln Deinen Cocktail schlürfst. Cool oder? Moment. Das gibts ja schon, oder wie, oder was!? ⁷ Im Buch ‚Ideale‘ von Julia Friedrichs ist sie zu Besuch auf den Kayman-Inseln und interviewt einen [HeftigesSchimpfwortplatzhalter], der solch eine Software entworfen hat.

Oder die hilfreiche K.I. in der Forschung ⁸. Soweit ausgereift, dass sie autonom bestimmte Arbeiten ausführen kann, PatientInnen betreut und zB an der Manipulation von schlimmen Erregern (zB Ebola oder SARS) forscht, mit dem Ziel einen wirklich wirksamen Impfstoff zu entwickeln, oder andere nette Dienste an der Menschheit umzusetzten ⁹. Dabei entwirft sie aber versehentlich oder absichtlich (was völlig egal ist, weil es auf das Selbe herauskommt) supergiftige Spiegelerreger, denen die menschlichen und tierischen Immunsysteme nichts entgegenzusetzen haben, was dann darin endet, dass 98 % der Menschheit und 89 % der Tierwelt innerhalb von 5 Monaten an einem Erreger gestorben sind, den es 1) natürlicherweise so nie gegeben hätte und 2) der für immer eine Supergefahr auf der Erde bleiben wird. Durch die Dezimierung reduziert sich der Genpool der Menschheit so krass, dass innerhalb der nächsten 3 Generationen die Lebenserwartung auf 30 Jahre sinkt und dann die letzten Menschen unfruchtbar werden. In einer massiven letzten Anstrengung sorgen die Verbliebenen dafür, dass K.I. die Fähigkeit bekommt, sich selbst zu replizieren und weiter zu entwickeln. Irgendjemand faselt ganz leise etwas von Bewusstseinstransfer, was aber nicht funktioniert. Dann irgendwann stirbt der letzte Mensch an einer Lungenentzündung und die 300-tausend Jahre Erfolgsgeschichte moderner Mensch enden auf unfassbar dumme Weise. Ja, klingt jetzt erstmal gar nicht so schön.¹⁰

Das öffentliche Interesse für die neuen Entwicklungen ist groß und zeigte sich auch bei journalistischen Anfragen zu möglichen Gefährdungen durch Spiegelbakterien (funk/MDR-Format fakecheck) oder KI-generierten Phagen (WDR Quarks), die unter Beteiligung des Arbeitskreises beantwortet worden sind. Hier beriet der Arbeitskreis die Journalisten. Zudem nahm der Vorsitzende des Arbeitskreises zusammen mit Dr. André Friedrich (Geschäftsstelle der ZKBS) an einem Workshop der Wübben-Stiftung „Wissenschaft zum Einsatz von generativer KI im Moleküldesign“ in Ingelheim teil, bei der gemeinsam mit Expertinnen und Experten über Potenziale und Herausforderungen KI-generierter Genome diskutiert wurde. – ZKBS Tätigkeitsbericht 2025, Seite 14 ¹¹

Ich denke, Unfälle sind wahrscheinlicher, als eine K.I., die aus Logikgründen die Menschen auszulöschen versucht. Insbesondere, weil Software in sich über keine Kategorien wie Gut oder Böse verfügt. Deren Bösartigkeit würde nur in einer vollkommenen Empathielosigkeit bestehen; in einer unmenschlichen Logik, die vollkommen effizienzbasierte und vordefinierte Entscheidungen treffen wird, egal wie menschlich wir diese zu gestalten versuchen. Wie eine Kurbelwelle, die einen Menschen aufwickelt und diesen immer wieder mit dem Kopf auf einen harten Betonfussboden schlägt, bis dieser ziemlich bald tot ist: sie hätte kein Empfinden für die Falschheit dieser Situation und wenn es einen Sicherungsmechanismus gäbe, der die Maschine in so einem Fall abschalten soll, dann nur deswegen, weil ein elektrischer Impuls und ein inhärentes Design sie dazu zwingt. Nicht weil sie Gut und Böse kennt. Naja, schon logisch. 🙂

K.I. Drohnen, die über Charkiv fliegen und autonom Ziele angreifen sollen, sind schon Realität. Raketen, die ihre Ziele selbstständig finden, ICBMs, Heat-Tracking-Munition. Darin wird der Spieltrieb sichtbar, der ursächlich dafür ist, dass Technologien – sofern einmal technisch entwickelt – auch genutzt werden. Ohne den Unterschied zwischen Gut und Böse und der ureigenen menschlichen Unterscheidungsfähigkeit gibt es auch keine „guten“ Roboter, solche die in Japan zB für die Altenpflege eingesetzt werden. Sie unterliegen einer ständigen Weiterentwicklung und werden höchstwahrscheinlich in 20 oder 30 Jahren so „gut“ sein, dass sie über bessere sensorische Fähigkeiten verfügen, über die ein Mensch heute verfügt. Balancefähigkeiten von zweibeinigen Robotern sind heute schon so gut, dass sie die menschlichen Eigenschaften übertreffen können. Wärmebildsicht? Röntgenblick? Karatekämpfermechanik? Fussballspielende Leichtathleten? Genau wie LLMs: sie sind wahrscheinlich nur eine Übergangstechnologie und vielleicht wird in naher Zukunft bereits schon das erste gelartige Hybridgehirn existieren, wie wir es aus dem Film ‚I Robot‚ kennen, oder aus anderen Science Fiction Ideen der Menschen. Eigentlich könnte man hieraus eine Homage an die Science-Fiction AutorInnen der Vergangenheit erstellen und sagen: wow, ihr wart schon ziemlich visionär. :o)

Doch neben der militärischen Nutzung sind es wahrscheinlich die harmloseren Risiken durch das Verwenden von „K.I.“ diejenigen, die uns momentan die meisten Sorgen bereiten sollten und für die wir immernoch keine Antworten haben, anstatt dystopische Science-Fiction Visionen die in fernerer Zukunft liegen, aber meistens den Dialog bestimmen, wenn wir uns über K.I. unterhalten. Der Abbau von Jobs, komplette Umwälzungen, wie Software geschrieben wird, das defacto nicht mehr existente Urheberrecht an Texten, Bildern und Musik, aber auch ganz profane Privatsphärefragen, die bei der Entstehung von LLM-Datensätzen entstehen. Auf diese Fragen haben wir eigentlich keine Antworten, nutzen diese Technologie aber trotzdem exessiv.

Naja, wo will ich eigentlich hin? Sorry, etwas strave from ze überwachungs-sidewalk. Zurück zum Thema: Überwachungsbefugnisse der Strafverfolgungsbehörden.

Auf der Demo waren so ca. 600 Menschen, wenn es hoch kommt, womöglich aufgerundet. In einer Stadt in der täglich ca. 165.000 Menschen am Alexanderplatz von A nach B latschen und dort auch täglich von den bereits existierenden Überwachungsmaßnahmen betroffen sind. Es scheint den meisten vollkommen egal zu sein. Möglichkeit eins. Oder wahrscheinlichere Möglicheit zwei: es ist ihnen nicht bewusst genug. Denn ich glaube ernsthaft, dass jeder Mensch gegen diese Überwachung etwas tun würde, was im Rahmen seiner zumutbaren Möglichkeiten liegt, wenn er (der Mensch) die volle Tragweite dieses schleichend vonstatten gehenden Abbaus unserer so teuer erworbenen Grundrechte und sozialen Standards fassen würde können.

In Anbetracht der momentanen Situation, dass wir bald nationalistische Faschisten in politischer Macht haben, verschärft sich dieser Umstand noch weiter, weil wir als Gesellschaft nicht ausreichend auf die technischen Möglichkeiten acht geben, die verfassungsfeindliche Kräfte hier und weltweit gegen Menschen ausnutzen könnten. Beispiele dafür aus anderen Ländern haben wir mittlerweile genug. Und ein Spruch von irgendwoher, ich weiß nicht mehr woher, geht mir dabei nie aus dem Kopf: hätten die Nazis im sog. dritten Reich über die Fülle an Informationen und die Effizenz der heutigen Zeit verfügen können, wären viel mehr Menschen von Mord und Repression betroffen gewesen. Zumindest aber wäre jeder Widerstand sehr viel effizienter unterdrückt worden, oder vielleicht gar nicht erst aufgekeimt.

Das Thema geht uns so krass alle an, aber für kein anderes Thema wie dem Missbrauch unserer Metadaten interessieren wir uns so wenig.

1. https://sicherheit-ohne-ueberwachung.org/2026/04/29/demo-am-13-juni-2026/ ↩︎
2. https://www.a-fsa.de/de/articles/9564-20260615-gegen-verfassungswidrige-ueberwachungsplaene.html ↩︎
3. https://www.zdfheute.de/politik/ki-militaer-krieg-gefahr-vorteile-100.html ↩︎
4. https://www.spiegel.de/wirtschaft/unternehmen/openai-einigt-sich-mit-us-verteidigungsministerium-ueber-ki-nutzung-a-561e3d0a-6554-4459-aee0-a1048264c779 ↩︎
5. https://www.faz.net/aktuell/wirtschaft/unternehmen/google-und-andreas-kirsch-kritik-am-pentagon-ki-deal-accg-200820637.html ↩︎
6. https://borncity.com/news/trump-ordnet-ki-offensive-an-90-tage-frist-fuer-autonome-waffen/ ↩︎
7. https://www.unterstroemt.de/?p=1238 ↩︎
8. https://www.bundesaerztekammer.de/fileadmin/user_upload/BAEK/Politik/Programme-Positionen/Von_aerztlicher_Kunst_mit_Kuenstlicher_Intelligenz_27.05.2025.pdf ↩︎
9. https://www.spiegel.de/wissenschaft/technik/kuenstliche-intelligenz-ki-designtes-virus-toetet-kolibakterien-a-a9d4858f-7200-48d1-875c-ab859576a153 ↩︎
10. https://eu.usatoday.com/story/news/nation/2025/08/31/mirror-life-scientists-push-for-ban/85866520007/ ↩︎
11. https://zkbs-online.de/fileadmin/user_upload/Downloads/Die_ZKBS/Taetigkeitsberichte/2025_ZKBS_T%C3%A4tigkeitsbericht.pdf ↩︎