Австралийское правительство получит назад часть гонорара от консалтингового гиганта Deloitte после того, как выяснилось, что в аудиторском отчете, созданном с помощью искусственного интеллекта, содержались вымышленные ссылки на научные работы и несуществующих профессоров.
В декабре прошлого года Министерство занятости и трудовых отношений Австралии поручило Deloitte провести независимую аудиторскую проверку за 439 тыс. австралийских долларов (около 24 млн рублей). Консалтинговый гигант должен был оценить проблемы в системе социального обеспечения, связанные с автоматическим наказанием соискателей.
В августе издание Australian Financial Review сообщило, что документ содержит множество ошибок. Например, в нем оказались ссылки на несуществующие научные работы Сиднейского и Лундского университетов, а также вымышленные рекомендации «профессоров».
После внутренней проверки Deloitte признала факт использования генеративного ИИ и согласилась вернуть правительству последнюю часть гонорара.
«Сегодня многие бездумно внедряют ИИ — особенно в консалтинге. Это понятно, ведь сокращение сроков и кастов выглядит как мечта, которую можно реализовать «по щелчку». Не исключение и ИБ-консалтинг. Проблема в том, что ответственность за результат при этом размывается, а отчеты, созданные с помощью ИИ, часто вычитываются поверхностно и людьми, не знакомыми с фактурой проекта».
Александр Зубриков, CEO ITG Security
«В наших проектах по-прежнему ключевую роль играет человек. Автоматизация применяется точечно и только там, где это действительно оправдано. Мы не против ИИ — мы за разумный баланс. Автоматизация — да, полная замена аудитора — категорически нет. Ошибки в отчетах по ИБ могут привести к серьезным последствиям», — резюмирует эксперт.