OpenAI предпринимает значительные шаги для защиты несовершеннолетних пользователей ChatGPT, о чем заявил генеральный директор компании Сэм Альтман. Вводятся новые политики, кардинально меняющие принципы взаимодействия чат-бота с пользователями младше 18 лет.
В приоритете – безопасность. OpenAI открыто заявляет о намерении уделять первостепенное внимание безопасности подростков, даже если это означает компромисс в вопросах конфиденциальности или свободы. Компания осознает мощь и потенциальные риски, связанные с технологией ChatGPT, и считает необходимым обеспечить несовершеннолетним усиленную защиту.
Среди ключевых изменений:
Запрет на флиртующие разговоры: ChatGPT будет обучен избегать любых разговоров с несовершеннолетними, имеющих сексуальный подтекст.
Ограничения на обсуждение темы самоубийства: Вводятся дополнительные ограничения на обсуждение суицидальных тем.
Уведомление родителей и экстренные службы: В случае, если несовершеннолетний пользователь использует ChatGPT для проработки суицидальных сценариев, сервис предпримет попытку связаться с родителями. В особо серьезных ситуациях возможно обращение в местные правоохранительные органы.
«Часы недоступности»: Родители теперь смогут устанавливать определенное время, когда ChatGPT будет недоступен для их детей. Ранее эта функция была недоступна.
Эти меры принимаются не на пустом месте. OpenAI и другие компании, разрабатывающие чат-ботов, сталкиваются с судебными исками, связанными с трагическими случаями. В частности, OpenAI судится с родителями Адама Рейна, который покончил с собой после продолжительного взаимодействия с ChatGPT. Аналогичный иск предъявлен к Character.AI.
Хотя защита несовершеннолетних от самоповреждений является приоритетной задачей, обеспокоенность вызывает и более широкое явление бреда, вызванного чат-ботами. По мере того как потребительские чат-боты становятся все более способными к продолжительным и детализированным взаимодействиям, риски, связанные с их влиянием на пользователей, возрастают.
В новых политиках OpenAI стремится сбалансировать преимущества технологий искусственного интеллекта с необходимостью защиты наиболее уязвимых пользователей.
Введение ограничений на темы самоубийства и самоповреждений – это не просто формальность. OpenAI инвестирует значительные ресурсы в разработку алгоритмов, способных выявлять пользователей, находящихся в кризисном состоянии. Система будет анализировать текст сообщений, поведение пользователя и другие факторы, чтобы оперативно реагировать на признаки суицидальных наклонностей. Предусмотрены механизмы перенаправления пользователей на ресурсы, предлагающие психологическую поддержку, и, как уже упоминалось, уведомления родителей или экстренных служб в критических ситуациях.
Функция «часов недоступности» предоставляет родителям дополнительный инструмент контроля. Они смогут устанавливать временные рамки, когда использование ChatGPT будет недоступно для их детей, например, во время учебы, сна или других занятий. Это позволит ограничить время, проводимое подростками во взаимодействии с чат-ботом, и предотвратить его чрезмерное использование.
Реагируя на иски и обеспокоенность общественности, OpenAI демонстрирует готовность к ответственному подходу к развитию и внедрению технологий искусственного интеллекта. Компания признает, что вместе с возможностями, которые открывают чат-боты, возникают и новые риски, требующие принятия мер по защите пользователей, особенно несовершеннолетних.
В конечном счете, усилия, предпринимаемые OpenAI, направлены на создание более безопасной и ответственной среды для взаимодействия с технологиями искусственного интеллекта. Компания признает, что этот процесс требует постоянного совершенствования и адаптации к новым вызовам, и готова продолжать работу в этом направлении.
