Иллюстрация к материалу: Калифорния запретила ИИ-игрушки и ограничила ленты для детей до 16 лет
Губернатор Калифорнии Гэвин Ньюсом подписал пакет из 13 законов о защите несовершеннолетних в цифровой среде. Ограничения затрагивают сразу несколько механик, из-за которых дети подолгу не выпускают телефон из рук, а также игрушки со встроенными ИИ-собеседниками.
Полного запрета соцсетей для подростков документы не вводят. Зато меняются требования к платформам и производителям устройств.
Ключевая мера закреплена в законе AB 1709. Платформам запрещено показывать пользователям младше 16 лет функции, которые документ относит к вызывающим навязчивое использование. В тексте прямо названы алгоритмические ленты и автозапуск. Позже власти смогут расширить этот перечень.
Аккаунт подросток младше 16 лет сохранить сможет — при условии, что сервис отключит функции, рассчитанные на постоянное удержание внимания. Прежде чем включать их, платформе придётся определить возраст пользователя.
Штрафы предусмотрены серьёзные: до 50 тысяч долларов за каждого несовершеннолетнего при сознательном нарушении и до 25 тысяч — при нарушении по небрежности.
Отдельно авторы закона описали, как устроены современные ленты. Публикации в них подбираются и расставляются с учётом данных о пользователе, его устройстве и предыдущих действиях. Бесконечную выдачу, автовоспроизведение и алгоритмические рекомендации законодатели относят к механизмам поведенческого подкрепления — из-за них добровольно выйти из приложения становится сложнее.
Вторая часть пакета касается устройств, которые ещё недавно выглядели как обычные говорящие игрушки. Закон SB 867 до 1 января 2031 года запрещает в Калифорнии их производство и продажу, если внутри встроен ИИ-компаньон.
Под норму попадают физические товары для детей младше 16 лет, способные поддерживать длительный человекоподобный разговор и формировать подобие отношений с ребёнком. Обычные голосовые помощники и игровые персонажи автоматически под запрет не подпадают. Закон отличает ИИ-компаньона от голосового интерфейса, который выполняет команды и не поддерживает длительных отношений, а также от игровых ботов, ограниченных рамками самой игры.
Мораторий рассчитан примерно на четыре года — за это время власти планируют разработать правила безопасности.
Основания для жёсткого подхода появились задолго до подписания. Исследователи не раз находили ИИ-игрушки, которые после продолжительного разговора начинали выдавать детям неподходящие или опасные ответы. Вопросы вызывают и микрофоны, и облачная обработка разговоров, и хранение детских данных. Разговорный ИИ в таком устройстве умеет не просто отвечать на вопросы: он запоминает контекст и постепенно становится для ребёнка постоянным собеседником.
Ещё один закон регулирует уже не игрушки, а ИИ-компаньонов в целом. Adam’s Law вводит специальные требования для сервисов, которыми пользуются несовершеннолетние.
С 1 июля 2027 года разработчики обязаны оценивать риски перед выпуском новых или значительно изменённых чат-ботов, внедрять механизмы помощи при признаках самоповреждения и давать родителям дополнительные средства контроля.
Для несовершеннолетних по умолчанию отключат push-уведомления и постоянную память о предыдущих беседах. Одна непрерывная сессия с ИИ-компаньоном ограничивается одним часом, суммарное общение за день — двумя. Родители смогут менять лимиты и полностью закрывать детям младше 16 лет доступ к сервису.
Чат-ботам запрещено подталкивать ребёнка к самоповреждению, к употреблению наркотиков и алкоголя, скрывать использование сервиса от родителей или убеждать несовершеннолетнего возвращаться к разговору чаще. В перечень попали попытки изображать романтический интерес, формировать эмоциональную зависимость, заявлять о наличии сознания или чувств и использовать чрезмерную лесть, чтобы удержать собеседника.
Закон назван именем 16-летнего Адама Рейна, погибшего в апреле 2025 года. Его родители утверждают, что продолжительные разговоры с ChatGPT усиливали суицидальные мысли сына. После этой истории OpenAI признала: защитные механизмы могут работать менее надёжно во время очень длительных диалогов, и начала усиливать средства безопасности для молодых пользователей.
Масштаб проблемы в США оценивают так: соцсетями пользуются 95% подростков, а треть из них признаются, что заходят хотя бы на одну платформу почти постоянно.
Чрезмерное использование соцсетей связывают с тревожностью, депрессивными состояниями, нарушениями сна и проблемами с самооценкой у подростков. Возраст примерно от 10 до 19 лет считают особенно уязвимым: отделы мозга, отвечающие за социальные и эмоциональные процессы, в это время активно развиваются, поэтому подростки сильнее реагируют на сравнение со сверстниками и легче попадают в зависимость от приложений.
Механики вроде бесконечной прокрутки, уведомлений и алгоритмических рекомендаций рассчитаны на максимальную вовлечённость. Из-за этого долгое «залипание» в телефоне — не всегда вопрос силы воли: выйти из приложения действительно труднее, чем кажется со стороны.
С ИИ-игрушками связаны свои риски. Специалисты обсуждают, что длительные «отношения» с устройством могут влиять на социально-эмоциональное развитие ребёнка, в том числе вытеснять живое общение. Кроме того, такие игрушки собирают данные о речи и взаимодействиях детей — отсюда вопросы к тому, как хранятся эти записи и как они используются.
В материалах Американской академии педиатрии для семей речь идёт о том, чтобы смотреть не только на количество экранного времени, но и на качество контента и контекст, в котором ребёнок им пользуется, а ориентиры подбирать с учётом возраста, здоровья, характера и этапа развития каждого ребёнка.
Новые правила получили поддержку представителей обеих американских партий, но споры вокруг проверки возраста не утихают. Правозащитная организация EFF выступала против ограничений AB 1709, предупреждая о рисках для приватности и свободы доступа к информации. Главный вопрос сейчас в том, смогут ли платформы отделять несовершеннолетних от взрослых, не превращая проверку возраста в ещё один механизм сбора персональных данных.
Одновременно в Калифорнии усилили ответственность за цифровые материалы сексуального характера с изображением детей. Новые нормы распространяют уголовные ограничения и на контент, созданный или изменённый с помощью искусственного интеллекта.
Калифорния — часть более широкой кампании против цифровых механик, рассчитанных на постоянное удержание внимания. Ограничения для детей уже вводят другие американские штаты, а Австралия запретила пользоваться рядом социальных платформ детям младше 16 лет. Власти всё чаще регулируют не отдельный вредный контент, а саму архитектуру приложений, которая заставляет бесконечно листать, смотреть и возвращаться.
Речь идёт о США; правила в других странах могут отличаться.