Продолжение

Понимаю, что это занудливо. Но других вариантов, как создавать эти документы самим, сегодня не вижу.
Документы, которые возможно потребуются  организациям:

• Политика ответственного использования ИИ

Каждой серьёзной организации сегодня нужен внутренний документ, который отвечает на простые вопросы: что можно, что нельзя, кто отвечает, как проверять результат.

В нём должны быть разделы:

• допустимые и запрещённые сценарии применения ИИ;

• правила работы с персональными, коммерческими и конфиденциальными данными;

• требования к проверке фактов;

• запрет на выдачу ИИ-текста за личную экспертную позицию без осмысления;

• порядок использования ИИ в клиентских коммуникациях;

• правила маркировки материалов, созданных с помощью ИИ;

• ответственность сотрудников и руководителей;

• перечень задач, где ИИ может быть только вспомогательным инструментом.

Это должен быть не декоративный документ, а рабочий регламент.

• Матрица рисков применения ИИ

Организациям нужна классификация ИИ-задач по уровню риска.

Например:

• низкий риск: черновики, переводы, резюме открытых текстов, идеи для презентаций;

• средний риск: клиентские письма, аналитические записки, внутренние рекомендации, маркетинговые материалы;

• высокий риск: кредитные решения, юридические выводы, кадровые решения, медицинские рекомендации, инвестиционные советы, оценка граждан;

• запрещённые или особо регулируемые зоны: скрытая манипуляция, дискриминационный скоринг, генерация фальшивых доказательств, имитация человека без раскрытия.

Такая матрица помогает уйти от наивного подхода «ИИ можно» или «ИИ нельзя». Правильный вопрос: где, зачем, с какими ограничениями и под чьим контролем.

• Регламент проверки ИИ-результатов

Нужен отдельный документ о том, как проверять работу ИИ.

Он должен включать:

• проверку фактов и источников;

• проверку логики;

• проверку юридических и репутационных рисков;

• проверку предвзятости;

• проверку соответствия целевой аудитории;

• правило «двух пар глаз» для чувствительных материалов;

• обязательное документирование источников для важных выводов;

• запрет на использование непроверенного ИИ-вывода как основания для значимого решения.

Это особенно важно потому, что ИИ часто ошибается. И делает это весьма  красиво.

Документы для образования

• Стандарт ИИ-грамотности

Сегодня финансовая грамотность, цифровая грамотность и ИИ-грамотность начинают сливаться. Людям нужно не просто знать, что такое нейросеть, а понимать, как жить рядом с системами, которые влияют на решения, информацию, рынок труда и личную автономию.

Стандарт ИИ-грамотности должен включать:

• что ИИ умеет и чего не умеет;

• почему ИИ может ошибаться;

• что такое галлюцинации, предвзятость и манипуляция;

• как проверять ответы;

• как защищать личные данные;

• как использовать ИИ для обучения, а не списывания;

• как отличать помощь от зависимости;

• как применять ИИ в профессии;

• какие этические вопросы возникают при использовании ИИ.

Такой стандарт нужен для школ, вузов, взрослых граждан, госслужащих, предпринимателей и пенсионеров. Но уровни, конечно, должны быть разными.

• Кодекс использования ИИ в образовании

Образование — одна из самых чувствительных сфер. Если просто запретить ИИ, запрет будет фикцией. Если разрешить всё, можно разрушить самостоятельное мышление.

Кодекс должен различать:

• помощь в понимании темы;

• помощь в структуре работы;

• редактирование текста;

• генерацию черновиков;

• недопустимую подмену самостоятельной работы;

• правила раскрытия использования ИИ;

• новые форматы заданий, где оценивается не только результат, но и процесс мышления;

• роль учителя как наставника в работе с ИИ.

Главная цель — не «поймать списавшего», а научить использовать ИИ без потери способности думать.

Документы для профессиональных сообществ

Профессиональные кодексы работы с ИИ

Для каждой профессии нужны свои правила. Универсальный этический кодекс слишком общий. Юрист, врач, финансист, учитель, журналист, госслужащий и HR-специалист работают с разными рисками.

• Например, для нашего финансового сектора нужны свои правила:

• когда ИИ может помогать в финансовом консультировании;

• как раскрывать клиенту использование ИИ;

• кто отвечает за ошибочный совет;

• как предотвращать дискриминацию в скоринге;

• как объяснять клиенту автоматизированное решение;

• как защищать уязвимых потребителей;

• как не превращать персонализацию в манипуляцию.

И так для многих специальностей. Для журналистики — одни правила. Для суда — другие. Для медицины — третьи. Общая этика должна переходить в профессиональную конкретику.

Методические рекомендации по ИИ для руководителей

Например, ржуководителям нужны не только запреты, но и управленческие методики.

Такой документ должен объяснять:

• как внедрять ИИ без хаоса;

• как выбирать инструменты;

• как оценивать эффект;

• как обучать сотрудников;

• как менять процессы;

• как не увольнять людей раньше, чем организация научилась использовать технологию;

• как предотвращать теневое использование ИИ;

• как выстраивать ответственность между человеком, ИТ-службой, юристами и бизнес-подразделениями.

Все эти документы, о которых предлагаю подумать заранее направлены на решение одной из самых важным проблем внедрения ИИ. Эта проблема многих организаций будет не в отсутствии ИИ, а в его беспорядочном существовании во всех сферах нашей жизни.
Продолжение следует.