Yakarta, CNN Indonesia —
Ministerio de Comunicaciones y Digital (Komdigi) responde a las acusaciones de uso indebido de funciones de inteligencia artificial Grok IA en la plataforma de redes sociales Esto se considera una grave violación de la privacidad.
Alexander Sabar, Director General de Vigilancia del Espacio Digital de Komdigi, reveló que los resultados de búsqueda iniciales mostraron que Grok AI aún no cuenta con regulaciones explícitas y adecuadas para impedir la producción y distribución de contenido pornográfico basado en fotografías reales de ciudadanos indonesios.
PUBLICIDAD
Desplácese para continuar con el contenido
Se considera que esta condición puede vulnerar el derecho a la intimidad y el derecho a la propia imagen (Derecho a tu propia imagen), especialmente si la fotografía de una persona se manipula o distribuye sin permiso legal.
“Los resultados preliminares muestran que no existen regulaciones específicas en Grok AI que impidan el uso de esta tecnología en la creación y distribución de contenido pornográfico personal basado en fotografías. Esto plantea el riesgo de violaciones graves de la privacidad y los derechos de autoimagen de los ciudadanos”, dijo Alex en su declaración del miércoles (01/07).
Él cree que la manipulación digital de fotografías personales no es sólo una cuestión de decencia, sino una forma de usurpar el control de una persona sobre su identidad visual, lo que puede tener consecuencias psicológicas, sociales y de reputación.
Alex dijo que su partido se está coordinando actualmente con los Operadores de Sistemas Electrónicos (PSE) para garantizar que existan salvaguardias efectivas.
Estos pasos incluyen fortalecer el sistema de moderación de contenido, prevenir la creación de deepfakes inmorales y procedimientos para procesar rápidamente los informes de violaciones de la privacidad y la propia imagen.
“Cada PSE tiene la obligación de garantizar que la tecnología que proporciona no se convierta en un medio para violar la privacidad, la explotación sexual o dañar la dignidad de una persona”, subrayó.
Komdigi también recordó a los PSE su obligación de cumplir con las leyes y reglamentos de Indonesia. Si se detectan violaciones o comportamiento poco cooperativo, Komdigi puede imponer sanciones administrativas, que pueden incluir la suspensión del acceso a los servicios de inteligencia artificial de Grok y a la Plataforma X.
Además, Alex dijo que los proveedores y usuarios de servicios de IA que produzcan y/o distribuyan contenido pornográfico o manipulen imágenes personales sin derechos pueden estar sujetos a sanciones administrativas y/o penales de acuerdo con las disposiciones legales aplicables.
Desde que entró en vigor la Ley N° 1 de 2023 sobre el Código Penal (KUHP) el 2 de enero de 2026, el contenido pornográfico está regulado, entre otros, en los artículos 172 y 407.
El propio artículo 172 define la pornografía como aquel medio que contiene obscenidad o explotación sexual que viola las normas morales, mientras que el artículo 407 regula la pena de prisión mínima de 6 (seis) meses y máxima de 10 (diez) años o multa según lo dispuesto.
Alex dijo que las personas que son víctimas de manipulación fotográfica, deepfakes inmorales o violaciones de su derecho a la propia imagen pueden emprender acciones legales a través de los mecanismos disponibles en las normas legales, incluida la denuncia ante las autoridades policiales y la denuncia ante el Ministerio de Comunicaciones y Tecnología.
“Llamamos a todas las partes a utilizar la tecnología de inteligencia artificial de manera responsable. El espacio digital no es un vacío legal, existe la privacidad y el derecho a la propia imagen de cada ciudadano, que debe ser respetado y protegido”, concluyó.
(lom/dmi)
(Gambas: vídeo de CNN)
About The Author
