AlgorithmWatch

States small and large are investing millions (or, in the case of Spain, billions) to curate language resources and create high-performance Large Language Models for their national idiom(s). This is a direct continuation of the state’s interest in languages – but the investment is not always in the population’s interest. Automated Society: Get the briefing on how automated systems impact real people in Europe and beyond. On Friday, in your inbox 📬 If you are not subscribed yet, do so now: https://lnkd.in/eN-aJx7D

Zivilgesellschaftliche Errungenschaften standen selten so unter Druck wie heute. Wir haben zehn Vorschläge für die Bundesregierung, um mit gemeinwohlorientierter #KI die #Demokratie zu erhalten: https://lnkd.in/dpA4e2_n

We present AlgorithmWatch’s policy on how we use generative AI. This guides our staff in making decisions on whether, when, and how to use generative AI in a way that is aligned with our values and mission. Starting from a survey of our staff, we developed guidelines based on 4 principles: ⚖️ Proportionality 🔑 Security 💯 Quality 🪟 Transparency It also builds in a structured process for collecting and discussing use cases and tools, and updating the policy over time – necessary to address the range of uses and ongoing changes in the technology, its benefits, and its risks. If you would like to adopt a similar policy in your organization, we would be delighted to hear about it! Join our newsletter and download the complete policy, including our survey questions and a transparency note your organization can adapt for its own responsible AI strategy: https://lnkd.in/ddFPtzQb

X’s #Grok chatbot is the focus of yet another scandal after generating pictures of real people, without their consent, including children. But the problem of AI-generated sexual images without consent on X goes much further than Grok. The EU Commission needs to step up their game to protect people from this kind of violence. At AlgorithmWatch we have been building a system to help detect NSTs on large platforms, including via crowdsourcing observations of such tools. Find out more about our work on tracking and taking down NSTs: https://lnkd.in/dsDmAZ9a

Beyond thrilled to announce I am part of AlgorithmWatch's 25/26 class of fellows with brilliant researchers and journalists 🥹 My project will be diving into NSTs - popularly known as nudifying apps - and the consequences for those who have been non-consensually stripped. Particularly I'll be looking at who gets to be a real victim. So excited about this. 2026 let's gooo 💥 https://lnkd.in/dBXD2Y3h

🤨 Mehr China wagen! #KI-Superintelligenz als Nebelkerze – und was zu tun ist. Deutschlandradio hat ein #KI-Spezial gebastelt (https://lnkd.in/d4JJ6rS3). Darunter auch zwei Sendungen mit AlgorithmWatch-Beteiligung: Im Feature „Mensch und KI - Die Grenzen der Kontrolle“ lässt mich Autorin Jana Wuttke ausführlich dazu zu Wort kommen, dass KI, über die wir die Kontrolle verlieren, vor allem eine Erzählung von Oligarchen und autoritären Politikern ist, die ihren Interessen nach mehr Macht und Reichtum dient. Ich kann mich nicht darüber beklagen, zu wenig „Airtime“ bekommen zu haben. Fast im Gegenteil: Es freut mich zwar, dass ich meine Sicht der Dinge so ausführlich darlegen kann – aber es gibt mehr Menschen, die gute Argumente für diese Sichtweise haben und sie stärken könnten. Dennoch ein richtig gutes langes Stück; absolut hörenswert für alle, die die Diskussion besser verstehen wollen. Das lässt sich auch für „KI außer Kontrolle - Wie lange tut sie noch, was sie soll?“ sagen. Christoph Drösser befragt neben anderen meinen AW-Kollegen Michele Loi. Michele ist Hauptautor unseres Positionspapiers “Focus Attention on Accountability for AI − not on AGI and Longtermist Abstractions” (https://lnkd.in/evgBszpk). Entsprechend argumentiert er, dass die extrem problematischen Auswirkungen von KI, die bereits für alle sichtbar sind, wenig Beachtung finden – einfach weil wir nicht gut darin sind, sie in die Zukunft zu projizieren. Und so sprechen wir am Ende über Probleme, die nicht die wichtigsten sind. Aber was wäre zu tun? Mehr China wagen. Wie bitte? „Trotz aller Diskussionen über einen existenziellen KI-Wettlauf engagiert sich China weniger stark für KI, als manchmal dargestellt wird. Peking bezeichnet KI regelmäßig als ‘nationale strategische Priorität’ und hat investiert, um nicht zu weit zurückzufallen. Aber der Staat und seine großen Unternehmen geben viel mehr Geld aus, um sich die Vorherrschaft in anderen Bereichen zu sichern, wie Elektrofahrzeuge, Batterien, Robotik, Solarzellen, Windturbinen und andere Formen fortschrittlicher Fertigung. Diese Sektoren mögen weniger glamourös sein, aber ihre Renditen sind weit weniger spekulativ.” So Tim Wu in “Could the US win the AI race but lose the war for economic preeminence?” (https://lnkd.in/dtxS5n78). Wem fällt etwas auf? Alles Branchen, in denen europäische Firmen entweder hervorragend waren (Solarzellen), es sind (Robotik, Windturbinen, fortschrittliche Fertigung) oder (hüstel) sein könnten (Elektrofahrzeuge, Batterien). Alles Technologien, von denen unsere Zukunft abhängt. Wie wäre es also, hier massiv zu investieren – und zusätzlich in exzellente KI-Forschung, die genau diese Entwicklungen voranbringt, statt immer größere Modelle zu bauen, die viel mehr Probleme schaffen, als sie lösen? Das wäre doch mal ein sinnvoller Vorsatz für 2026!

🤨 Mehr China wagen! #KI-Superintelligenz als Nebelkerze – und was zu tun ist. Deutschlandradio hat ein #KI-Spezial gebastelt (https://lnkd.in/d4JJ6rS3). Darunter auch zwei Sendungen mit AlgorithmWatch-Beteiligung: Im Feature „Mensch und KI - Die Grenzen der Kontrolle“ lässt mich Autorin Jana Wuttke ausführlich dazu zu Wort kommen, dass KI, über die wir die Kontrolle verlieren, vor allem eine Erzählung von Oligarchen und autoritären Politikern ist, die ihren Interessen nach mehr Macht und Reichtum dient. Ich kann mich nicht darüber beklagen, zu wenig „Airtime“ bekommen zu haben. Fast im Gegenteil: Es freut mich zwar, dass ich meine Sicht der Dinge so ausführlich darlegen kann – aber es gibt mehr Menschen, die gute Argumente für diese Sichtweise haben und sie stärken könnten. Dennoch ein richtig gutes langes Stück; absolut hörenswert für alle, die die Diskussion besser verstehen wollen. Das lässt sich auch für „KI außer Kontrolle - Wie lange tut sie noch, was sie soll?“ sagen. Christoph Drösser befragt neben anderen meinen AW-Kollegen Michele Loi. Michele ist Hauptautor unseres Positionspapiers “Focus Attention on Accountability for AI − not on AGI and Longtermist Abstractions” (https://lnkd.in/evgBszpk). Entsprechend argumentiert er, dass die extrem problematischen Auswirkungen von KI, die bereits für alle sichtbar sind, wenig Beachtung finden – einfach weil wir nicht gut darin sind, sie in die Zukunft zu projizieren. Und so sprechen wir am Ende über Probleme, die nicht die wichtigsten sind. Aber was wäre zu tun? Mehr China wagen. Wie bitte? „Trotz aller Diskussionen über einen existenziellen KI-Wettlauf engagiert sich China weniger stark für KI, als manchmal dargestellt wird. Peking bezeichnet KI regelmäßig als ‘nationale strategische Priorität’ und hat investiert, um nicht zu weit zurückzufallen. Aber der Staat und seine großen Unternehmen geben viel mehr Geld aus, um sich die Vorherrschaft in anderen Bereichen zu sichern, wie Elektrofahrzeuge, Batterien, Robotik, Solarzellen, Windturbinen und andere Formen fortschrittlicher Fertigung. Diese Sektoren mögen weniger glamourös sein, aber ihre Renditen sind weit weniger spekulativ.” So Tim Wu in “Could the US win the AI race but lose the war for economic preeminence?” (https://lnkd.in/dtxS5n78). Wem fällt etwas auf? Alles Branchen, in denen europäische Firmen entweder hervorragend waren (Solarzellen), es sind (Robotik, Windturbinen, fortschrittliche Fertigung) oder (hüstel) sein könnten (Elektrofahrzeuge, Batterien). Alles Technologien, von denen unsere Zukunft abhängt. Wie wäre es also, hier massiv zu investieren – und zusätzlich in exzellente KI-Forschung, die genau diese Entwicklungen voranbringt, statt immer größere Modelle zu bauen, die viel mehr Probleme schaffen, als sie lösen? Das wäre doch mal ein sinnvoller Vorsatz für 2026!

‼️ Zu den Sanktionen der US-Regierung gegen Josephine Ballon und Anna-Lena von Hodenberg, Geschäftsführerinnen von HateAid, den früheren EU-Kommissar Thierry Breton, die Gründerin des britischen Global Disinformation Index (GDI) Clare Melford, und den Gründer des Center for Countering Digital Hate (CCDH), Imran Ahmed, sagt Matthias Spielkamp, Geschäftsführer von AlgorithmWatch: “Die Vorwürfe der US-Regierung, zivilgesellschaftliche Organisationen beteiligten sich an Zensur, waren von Beginn an absurd. Sie sind nichts anderes als der Versuch, die Zivilgesellschaft, die EU und ihre Mitgliedsstaaten einzuschüchtern. Diese Strategie hat nun zu einem neuen Tiefpunkt geführt, indem die Trump-Regierung Sanktionen gegen Menschen verhängt hat, die sich dafür einsetzen, uns alle vor der Verbreitung von Hass und Desinformation im Netz zu schützen. Betroffen sind auch Josephine Ballon und Anna-Lena von Hodenberg von der deutschen Organisation HateAid. Auch AlgorithmWatch arbeitet daran mit zu überwachen, ob Plattformen wie Google, Meta, X und andere geltendes Recht beachten. Nur so können wir dafür sorgen, dass eine demokratische Öffentlichkeit erhalten bleibt. Dass Regierungen und EU-Kommission sich nun für die Betroffenen einsetzen, ist eine Selbstverständlichkeit. Wir erwarten aber auch von den Plattform-Betreibern ein klares Bekenntnis dazu, dass sie die Gesetze der EU aktiv umsetzen und mit der Zivilgesellschaft kooperieren, statt sich zum Büttel eines anti-demokratischen US-Präsidenten zu machen."