Сбер изменил нейросеть Kandinsky 2.1 из-за юридической проверки
Герман Греф, заявил на форуме Finopolis 2023, что Сбер пересмотрел работу своей AI-модели Кандинский 2.1. Компания немедленно отреагировала после того, как депутаты Госдумы посчитали изображение, созданное ИИ, неподходящим, в результате чего прокуратура вызвала сотрудников компании. Сбербанк пересмотрел подходы к генерации любых государственных символов в ответ на обвинения в насмешках над российским флагом. Греф подчеркнул, что были предприняты немедленные действия для уважения национальных символов и заявил, что модель искусственного интеллекта теперь будет создавать только заранее определенные изображения.
Тревожный сигнал о возможных проблемах с разработкой и использованием искусственного интеллекта был произведен главой Сбербанка Германом Грефом. Он отметил, что настройка параметров безопасности ИИ привела к снижению творческих возможностей модели Кандинский на 12 процентов. В этой связи он посчитал, что властям необходимо строго регламентировать возможностей детей создавать контент с помощью ИИ.
Сбербанк не столкнулся с никакими юридическими последствиями в связи с этим случаем, однако вопрос о соответствии деятельности банка российскому законодательству был поднят депутатом Госдумы Сергеем Мироновым ранее. Его опасения связаны с ответами искусственного интеллекта на запросы, связанные с Россией, которые, по его мнению, могут оскорбить честь страны и вызвать отрицательную реакцию со стороны других стран.
Ситуация с искусственным интеллектом в Сбербанке не является уникальной. Подобные ограничения контента отмечаются и в других нейронных сетях, таких как ChatGPT, которые имеют встроенные фильтры для предотвращения возможных конфликтных результатов. Причины такой цензуры могут быть разными в разных странах.
Некоторые игроки отрасли выступают за разумную цензуру, чтобы достичь баланса между творчеством и ИИ. В то же время, другие, включая Илона Маска и его нейронную сеть Grok, поддерживают свободный от цензуры подход.
Александр Ведяхин из Сбера и ведущие российские разработчики технологий и банки призывают развивать искусственный интеллект в соответствии с этическими стандартами.
На форуме эксперты обсудили роль ИИ в обществе и пришли к выводу, что хотя ИИ может заменить определенные функции, он не может полностью заменить человека. Нейробиологи указывают на важность рассмотрения развития ИИ с пониманием его отличий от человеческого сознания и понимают, что наличие у ИИ естественной речи не означает наличие сознания.
