EU ChatControl, alle Smartphones werden bald lokal mit AI Kontrolliert

Sry für direkte Frage hier im Forum. Vlt der eine oder andere schon was gelesen dass aktuell bald alle smartphones lokal mit künstlicher Intelligenz ausgewertet werden und bei Verdacht den Behörden mitgeteilt wird.

EU ChatControl, alle Smartphones werden bald lokal mit AI Kontrolliert.

Bock jemand kurzes Statement dazu zu machen ohne dass xxx Beiträge durchgucken muss :slight_smile:
Gilt diese Angegkündige lokale ChatControlle und scannen von Geräten auch für CustomRoms? GrapheneOS auch betroffen davon?
1500 Ingenieure der Behörde bekommen direkten zugriff auf alle Smartphones…

Die „Regulation to Prevent and Combat Child Sexual Abuse“ hat meines Wissens nicht zum Gegenstand, grundsätzlich alle Smartphones mit künstlicher Intelligenz auszuwerten. Der Gesetzesvorschlag sieht aktuell folgendes vor:

In order to achieve the objectives of this Regulation, it should cover providers of services that have the potential to be misused for the purpose of online child sexual abuse. As they are increasingly misused for that purpose, those services should include publicly available interpersonal communications services, such as messaging services and web-based e-mail services, in so far as those services as are publicly available. As services which enable direct interpersonal and interactive exchange of information merely as a minor ancillary feature that is intrinsically linked to another service, such as chat and similar functions as part of gaming, image-sharing and video-hosting are equally at risk of misuse, they should also be covered by this Regulation

Quelle: https://netzpolitik.org/wp-upload/2025/07/2025-07-01_Council_Presidency_LEWP_CSA-R_Compromise-texts_10131.pdf

Teil der Vorschläge ist es, Messengerdienste, E-Mail-Anbieter etc. dazu zu verpflichten, gefährliche Inhalte zu entdecken und bei Verdacht zu melden. Dazu müssen die Dienste Inhalte vor dem Versenden auf dem Smartphone scannen. Zum Beispiel und auch, bevor eine Verschlüsselung erfolgt. Was eine zentrale Kritik an diesem Gesetzesvorschlag ist.

Das Client-Side Scanning verbindlich vorzuschreiben, ist also das Ziel der „Regulation to Prevent and Combat Child Sexual Abuse“. Dies ist aber Dienst- bzw. App-abhängig und bezieht sich nicht auf das Scannen des gesamten Smartphones.

1 „Gefällt mir“

Ach so, jetzt hab verstanden… In sozialen Medien wird das irgenwie anders kommuniziert…

Die EU-Mitgliedstaaten müssen ihre Position zum Vorschlag für Client‑Side‑Scanning (Chat Control) bis 12. September 2025 festlegen.
Rechtskräftig wird es danach noch nicht sofort, weil danach noch Verhandlungen (Parlament + Rat) nötig sind.

Client-Side-Scanning (CSS) soll dann direkt in die Apps eingebaut werden – also z.B. in: WhatsApp, Signal …

Inhalte (Texte, Bilder, Videos) werden vor der Verschlüsselung, also lokal auf deinem Gerät, durch eine KI oder ein Erkennungssystem geprüft.
Wenn etwas Verdächtiges gefunden wird (z.B. angeblich CSAM), wird das an Behörden oder Moderatoren gemeldet – auch wenn du in einem privaten, verschlüsselten Chat bist.

Die Anbieter (z. B. Meta, Apple, etc.) müssten den Scanner verpflichtend in ihre Apps integrieren, wenn sie innerhalb der EU tätig sind.

Danke !