Google вводит правила разработки приложений на основе ИИ

Google призывает сторонних разработчиков приложений для Android ответственно использовать функции генеративного искусственного интеллекта. Инициатива направлена на борьбу с проблемным контентом, включая откровенные материалы и разжигание ненависти, создаваемым с помощью генеративного ИИ.

В новом руководстве Google призывает разработчиков приложений, использующих генеративный ИИ:

• не допускать создания ограниченного контента ;
• внедрить механизм для сообщения или пометки оскорбительной информации;
• точно представлять возможности своих приложений в маркетинговых материалах;
• тщательно тестировать модели в различных сценариях;
• не допустить возможность запросов, которые могут привести к созданию вредоносного или оскорбительного контента.

Механизм отметки нежелательного контента

Отличительной чертой нового руководства является акцент на защиту пользователей. Google подчёркивает важность создания безопасной среды для пользователей и необходимости ответственного подхода к разработке и тестированию функций генеративного ИИ. Такой подход должен стать стандартом для всех разработчиков, чтобы предотвратить возможные злоупотребления технологиями искусственного интеллекта.