Yakarta, CNN Indonesia —
Así lo anunció el Ministerio de Comunicaciones y Asuntos Digitales (Komdigi). Grok IA Y incógnita El incumplimiento y cumplimiento de las regulaciones existentes en Indonesia dará lugar a sanciones administrativas, que pueden incluir el bloqueo del acceso.
Komdigi amenazó con sanciones por el presunto uso indebido de la función de inteligencia artificial Grok AI en la plataforma de redes sociales X, que se utilizó para producir y distribuir contenido inmoral, incluida la manipulación de fotografías personales sin el consentimiento del propietario.
PUBLICIDAD
Desplácese para continuar con el contenido
Alexander Sabar, Director General de Vigilancia del Espacio Digital de Komdigi, enfatizó que, como Operador de Sistemas Electrónicos (PSE), X está obligado a cumplir con las leyes y regulaciones vigentes en Indonesia.
También dijo que los proveedores y usuarios de servicios de IA que produzcan y/o distribuyan contenidos pornográficos o manipulen imágenes personales sin derechos podrán estar sujetos a sanciones administrativas y/o penales de conformidad con las disposiciones legales aplicables.
Desde que entró en vigor la Ley N° 1 de 2023 sobre el Código Penal (KUHP) el 2 de enero de 2026, el contenido pornográfico está regulado, entre otros, en los artículos 172 y 407.
El propio artículo 172 define la pornografía como aquel medio que contiene obscenidad o explotación sexual que viola las normas morales, mientras que el artículo 407 regula la pena de prisión mínima de 6 (seis) meses y máxima de 10 (diez) años o multa según lo dispuesto.
Alex dijo que las personas que son víctimas de manipulación fotográfica, deepfakes inmorales o violaciones de su derecho a la propia imagen pueden emprender acciones legales a través de los mecanismos disponibles en la ley, incluida la denuncia ante las autoridades policiales y la presentación de quejas ante Komdigi.
“Llamamos a todas las partes a utilizar la tecnología de inteligencia artificial de manera responsable. El espacio digital no es un vacío legal, existe la privacidad y el derecho a la propia imagen de cada ciudadano, que debe ser respetado y protegido”, dijo en un comunicado el miércoles (1 de julio).
Además, Alex reveló que los resultados de búsqueda iniciales mostraron que Grok AI aún no contaba con regulaciones explícitas y adecuadas para impedir la producción y distribución de contenido pornográfico basado en fotografías reales de ciudadanos indonesios.
Se considera que esta condición puede vulnerar el derecho a la intimidad y el derecho a la propia imagen, especialmente si la fotografía de una persona es manipulada o distribuida sin autorización legal.
“Los resultados preliminares muestran que no existen regulaciones específicas en Grok AI que impidan el uso de esta tecnología en la creación y distribución de contenido pornográfico personal basado en fotografías. Esto plantea el riesgo de violaciones graves de la privacidad y los derechos de autoimagen de los ciudadanos”, dijo Alex.
Él cree que la manipulación digital de fotografías personales no es sólo una cuestión de decencia, sino una forma de usurpar el control de una persona sobre su identidad visual, lo que puede tener consecuencias psicológicas, sociales y de reputación.
Alex dijo que su partido se está coordinando actualmente con los PSE para garantizar que existan salvaguardias efectivas.
Estos pasos incluyen fortalecer el sistema de moderación de contenido, prevenir la creación de deepfakes inmorales y procedimientos para procesar rápidamente los informes de violaciones de la privacidad y la propia imagen.
“Cada PSE tiene la obligación de garantizar que la tecnología que proporciona no se convierta en un medio para violar la privacidad, la explotación sexual o dañar la dignidad de una persona”, subrayó.
(lom/dmi)
(Gambas: vídeo de CNN)
About The Author
