디지털 폭력: 런던이 형법을 강화하고 과학기술 대표들에게 감옥 경고
Digitale Gewalt: London verschärft Strafrecht und warnt Tech-Bosse vor Haft
Der Spiegel
DER SPIEGEL
DE
2026-04-11 03:41
Translated
최근 영국 정부는 디지털 폭력에 대한 형법을 강화했다. 이제 정부는 기술 대표들에게 부작위가 본인들에게 심각한 결과를 초래할 수 있음을 명확히 하고 있다.
영국 정부는 AI 생성 딥페이크 규제에 대한 책임이 누구에게 있는지에 대한 명확한 신호를 보내고 있다. 금요일 미디어 감시 기구인 오프컴(Ofcom)의 성명에 따르면, 플랫폼들이 AI 생성 성적 표현물 삭제를 거부할 경우 "기술 부문의 경영진이 개인적으로 책임을 질 수 있으며" 여기에는 벌금과 투옥이 포함된다.
현재 영국 하원에서는 집권 노동당의 해당 법안이 논의 중이다. 동의 없이 성적 딥페이크를 제작하고 공유하는 것은 2월부터 영국에서 이미 범죄이다. 계기가 된 것은 온라인 서비스 X에 통합된 AI 챗봇 그록(Grok)으로, 이는 성적 내용의 이미지와 동영상을 생성할 수 있다.
영국 정부는 일정 기간 내에 이미지와 동영상 삭제를 거부하는 기업들에 대해 이미 세계 수익의 최대 10%에 달하는 벌금과 영국 내 서비스 차단으로 위협했다.
금요일에 발표된 법안 개정안은 정부에 따르면 "근친상간 행위 또는 아동과 성인 간의 행위"를 보여주는 AI로 생성된 포르노 자료에 관한 것이다. 이러한 자료의 제작과 유포도 곧 범죄가 될 수 있다.
독일에서는 성애화된 내용의 딥페이크 유포가 아직 명시적으로 범죄가 아니다. SPD 소속 사법부 장관 슈테파니 후비그(Stefanie Hubig)는 디지털 성적 폭력으로부터의 보호를 위해 형법의 신속한 개정을 추진하고 있다.
현재 영국 하원에서는 집권 노동당의 해당 법안이 논의 중이다. 동의 없이 성적 딥페이크를 제작하고 공유하는 것은 2월부터 영국에서 이미 범죄이다. 계기가 된 것은 온라인 서비스 X에 통합된 AI 챗봇 그록(Grok)으로, 이는 성적 내용의 이미지와 동영상을 생성할 수 있다.
영국 정부는 일정 기간 내에 이미지와 동영상 삭제를 거부하는 기업들에 대해 이미 세계 수익의 최대 10%에 달하는 벌금과 영국 내 서비스 차단으로 위협했다.
금요일에 발표된 법안 개정안은 정부에 따르면 "근친상간 행위 또는 아동과 성인 간의 행위"를 보여주는 AI로 생성된 포르노 자료에 관한 것이다. 이러한 자료의 제작과 유포도 곧 범죄가 될 수 있다.
독일에서는 성애화된 내용의 딥페이크 유포가 아직 명시적으로 범죄가 아니다. SPD 소속 사법부 장관 슈테파니 후비그(Stefanie Hubig)는 디지털 성적 폭력으로부터의 보호를 위해 형법의 신속한 개정을 추진하고 있다.
Erst kürzlich hatte die britische Regierung das Strafrecht für digitale Gewalt verschärft. Jetzt macht sie klar, dass Nichtstun für die Techbosse selbst ernsthafte Konsequenzen haben kann.
Die britische Regierung sendet ein eindeutiges Signal, wen sie für die Regulierung KI-generierter Deepfakes in der Verantwortung sieht: Weigern sich Plattformen, KI-generierte sexuelle Darstellungen zu löschen, könnten »Führungskräfte des Technologie-Sektors persönlich zur Verantwortung gezogen werden«, heißt es in einer Erklärung der Medienaufsichtsbehörde Ofcom vom Freitag. Dies schließe Geld- und Gefängnisstrafen ein.Über einen entsprechenden Gesetzesvorschlag der regierenden Labour-Partei wird derzeit im britischen Unterhaus diskutiert. Das Erstellen und Teilen sexueller Deepfakes ohne Zustimmung der dargestellten Menschen ist in Großbritannien bereits seit Februar strafbar. Aufhänger war der KI-Chatbot Grok, der in den Onlinedienst X integriert ist und Bilder und Videos mit sexuellem Inhalt erstellen kann.
Die britische Regierung hatte Unternehmen, die sich weigern, Bilder und Videos innerhalb einer bestimmten Frist zu löschen, bereits mit Geldstrafen von bis zu zehn Prozent ihres weltweiten Umsatzes und einer Sperrung der Dienste in Großbritannien gedroht.
Eine ebenfalls am Freitag vorgestellte Änderung des Gesetzesvorhabens betrifft laut Regierung pornografisches Material, das mithilfe von KI erstellt wurde und »inzestuöse Handlungen oder die Darstellung von Kindern mit Erwachsenen zeigt«. Deren Erstellung und Verbreitung könnte demnach ebenfalls bald strafbar werden.
In Deutschland ist die Verbreitung von Deepfakes mit sexualisierendem Inhalt bislang noch nicht explizit strafbar. Justizministerin Stefanie Hubig (SPD) strebt eine schnelle Reform des Strafgesetzbuchs zum besseren Schutz vor digitaler sexualisierter Gewalt an.