Американський сенатор ініціював масштабне розслідування щодо восьми провідних технологічних компаній, серед яких є світові гіганти. Метою розслідування є оцінка їхньої ефективності у звітуванні про матеріали сексуального насильства над дітьми (CSAM) та даних, пов'язаних із генеративним штучним інтелектом. Ця ініціатива стала відповіддю на занепокоєння та звіти від Національного центру зниклих та експлуатованих дітей (NCMEC), які вказують на значні недоліки у поточних практиках цих компаній.
Згідно зі звітами NCMEC, технологічні платформи не забезпечують належного рівня співпраці та прозорості у виявленні та повідомленні про випадки CSAM. Крім того, виникають питання щодо того, як дані, що використовуються для навчання генеративного ШІ, можуть бути пов'язані з незаконним контентом або як сам генеративний ШІ може бути використаний для створення чи поширення такого матеріалу.
Проблема звітування про CSAM на великих платформах є складною. Технологічні компанії використовують комбінацію автоматизованих систем (наприклад, хешування зображень, машинне навчання) та людської модерації для виявлення та видалення такого контенту. Однак, звіт NCMEC свідчить про те, що ці механізми виявились недостатніми або неефективними у повному обсязі.
- Виявлення CSAM: Незважаючи на технологічні можливості, обсяги контенту, що генерується користувачами, є колосальними, що ускладнює своєчасне та повне виявлення.
- Генеративний ШІ: Використання генеративного штучного інтелекту додає новий вимір до цієї проблеми. Існують ризики, що ШІ може бути використаний для створення синтетичного CSAM або для маніпуляції існуючими зображеннями. Також важливо, щоб дані, на яких навчаються моделі ШІ, були ретельно перевірені на відсутність незаконного контенту.
- Звітування: Недостатнє звітування може означати затримки у передачі інформації правоохоронним органам, неповні дані або відсутність стандартизованих протоколів, що перешкоджає ефективному розслідуванню та притягненню винних до відповідальності.
Наслідки недостатнього звітування та контролю над контентом мають далекосяжні наслідки:
- Діти: Безпосередньо страждають від поширення CSAM. Неефективна боротьба з цим контентом дозволяє злочинцям продовжувати свою діяльність, збільшуючи ризик для нових жертв.
- Користувачі платформ: Можуть бути ненавмисно наражені на шкідливий контент, а також стикаються з ризиками для приватності даних, якщо механізми контролю є слабкими.
- Технологічні компанії: Загрожує значна репутаційна шкода, потенційні судові позови, багатомільйонні штрафи та посилення регуляторного тиску. Це також може призвести до втрати довіри з боку користувачів та інвесторів.
- Суспільство та правоохоронні органи: Зіштовхуються з ускладненнями у боротьбі зі злочинністю в інтернеті, що підриває загальну безпеку та довіру до цифрового простору.
Для ефективної протидії цим загрозам необхідний комплексний підхід:
- Для технологічних компаній:
- Посилити інвестиції у розробку та впровадження передових технологій для автоматичного виявлення CSAM та іншого незаконного контенту, включаючи використання ШІ та машинного навчання.
- Забезпечити прозорість та оперативність у звітуванні про виявлені випадки CSAM до NCMEC та правоохоронних органів.
- Провести ретельний аудит даних, що використовуються для навчання генеративних моделей ШІ, щоб уникнути включення незаконного або шкідливого контенту.
- Налагодити тіснішу співпрацю з експертами з безпеки дітей та правоохоронними органами для розробки ефективніших протоколів.
- Для IT-фахівців та організацій:
- При розробці та впровадженні систем ШІ акцентувати увагу на етичних аспектах та потенційних ризиках зловживання.
- Впроваджувати надійні політики управління даними та контентом, що відповідають чинному законодавству та найкращим практикам.
- Бути обізнаними щодо регуляторних вимог та стандартів безпеки, пов'язаних з обробкою чутливого контенту.
- Для користувачів:
- Бути пильними та повідомляти про будь-який підозрілий або незаконний контент, який вони зустрічають онлайн.
- Використовувати налаштування конфіденційності та безпеки на платформах, а також навчати дітей безпечній поведінці в інтернеті.