Как использовать ИИ для повышения эффективности работы и одновременно обеспечить безопасность информации и соблюдение закона? Эти вопросы обсуждались на форуме «Молодые госслужащие и эра ИИ».
Днём 9 октября в рамках X Всероссийского конкурса по информатике среди молодых кадров государственных органов, который проводит Центральный комитет Союза коммунистической молодёжи Хошимина, состоялся форум «Молодые госслужащие и эра ИИ». В нём участвовали специалисты и выступающие из государственных органов, учебных заведений и компаний.
«Галлюцинации ИИ» и ловушка удобства
Одной из главных тем форума стали «галлюцинации ИИ». На практике многие молодые чиновники полностью доверяют документам и отчётам, которые ИИ составляет гладко и логично. Доктор Чан Тьен Конг, исполняющий обязанности заведующего кафедрой искусственного интеллекта Академии почты и телекоммуникационных технологий, предупредил об этом техническом риске.
По словам доктора Конга, современные большие языковые модели работают вероятностным образом. ИИ предсказывает следующее слово на основе огромного объёма данных, на которых обучался, поэтому определённая доля ошибок неизбежна. Для ChatGPT она составляет около 3%.
«Три процента могут показаться небольшим показателем. Но если использовать ИИ для сокращения документа объёмом 1 000 страниц, это означает 30 страниц с ошибочной информацией. В государственном административном управлении это неприемлемо», отметил доктор Конг.
Поэтому чиновникам рекомендуют точно формулировать запросы, требовать от ИИ ясных ссылок на источники и, главное, лично проверять информацию перед выпуском документа.
Красная линия защиты данных граждан
Удобство ИИ иногда может невольно подтолкнуть чиновников к нарушению закона. На форуме привели показательный пример: чтобы успеть в срок, сотрудник загружает в бесплатный ИИ-сервис файл Excel с персональными данными граждан, включая имена, номера удостоверений личности и телефоны, и просит построить диаграмму.
Представитель Национального центра данных о населении Нгок Минь Тхуан прямо указал, что передача данных граждан на серверы стороннего ИИ в интернете означает утечку информации, нарушает закон о защите персональных данных, декрет 13, а также может нарушать закон о защите государственной тайны.
Чтобы решить такую задачу без нарушения закона, специалисты советуют применять маскирование: удалить все персональные идентификаторы и оставить только количественные данные, прежде чем передавать их ИИ. Ещё безопаснее использовать ИИ лишь для подсказок по алгоритму и методу работы, не отправляя системе исходные данные целиком.
Юридическая ответственность за использование ИИ
Студенты и молодые чиновники задали ещё один сложный вопрос: если ИИ неправильно обобщит материалы дела, чиновник подпишет решение в отношении ненадлежащего получателя и бюджет понесёт ущерб, кто будет отвечать?
Представитель региональной прокуратуры № 7 в Кантхо Хюинь Хоанг Кхай заявил с юридической точки зрения: «Программа ИИ всего лишь инструмент, созданный человеком. У неё нет правосубъектности, поэтому она не может нести административную или уголовную ответственность. Документ подписывает и заверяет печатью чиновник. Если он из-за чрезмерного доверия к ИИ пропустил сверку с исходными материалами и это привело к последствиям, он несёт полную ответственность перед законом за халатность».
Заместитель начальника Департамента административной реформы Министерства внутренних дел Буй Ван Кует считает, что государственным органам следует скорее повышать осведомлённость молодых чиновников, учить их отделять достоверные сведения от ошибочных и временно вводить правила использования ИИ.
В долгосрочной перспективе, считает доктор Чан Тьен Конг, государственным органам придётся создавать собственные внутренние системы ИИ. Инвестиции в суперкомпьютерную инфраструктуру и обучение моделей на данных будут очень дорогими и сложными, но такие системы, по его словам, нужны для защиты цифрового суверенитета и национальной безопасности данных.
Источники: Thanh Niên
