Чтобы обезопасить себя при работе с искусственным интеллектом (ИИ), нужно придерживаться требований гигиены информационной безопасности, о которых рассказал начальник управления информационной безопасности АО «Свой Банк» Алексей Ахмеев.
«Нейросети — это очень серьезный и мощный инструмент. Только в умелых руках и с соблюдением всех требований безопасности он будет на 100% эффективен и не создаст дополнительных рисков при его применении», — отмечает Ахмеев.
Существующие на рынке модели нейросетей хорошо обучены и постоянно развиваются, однако нельзя забывать о том, что это внешний инструмент — то есть им кто-то владеет. Вся информация, которая направляется в такую нейросеть, где-то хранится и обрабатывается.
«Нужно очень четко понимать, что раскрытие своих секретов или коммерческой тайны компании может иметь последствия. Все больше новостей появляется о том, что данные, которые направлялись в нейросети были индексированы поисковыми системами. Или о том, что при долгом взаимодействии с нейросетью переставали работать механизмы фильтрации ответов. Очень часто бывает, что кибермошенники производят “отравление данных”: это вариант атаки на ИИ, цель которой — заставить ИИ делать неверные выводы или давать ложные, а иногда и опасные рекомендации или решения», — говорит эксперт.
Чтобы обезопасить себя при работе с ИИ, Ахмеев рекомендует придерживаться главного требования гигиены информационной безопасности: не отправлять в нейросеть реальные данные, особенно персональные. Это позволит не раскрывать секреты и избежать компрометации, если ИИ захвачен злоумышленником.
«Кроме того, чтобы убедиться в реальности тех данных, которые выдает ИИ, следует обязательно перепроверять выданное решение у профессионалов в конкретной теме. Также можно перепроверять выданные решения в других нейросетях. Например, делать запрос ''проверь на этичность и безопасность [сюда вставить текст результата, который проверяется], покритикуй, напиши пять рисков, которые могли пропустить'', и затем анализировать результат», — советует эксперт.
