Забавный, а лучше сказать трагикомичный случай произошёл в рамках интегрирования искусственного интеллекта в колл — центры в сфере ЖКХ. «Умная машина», обладающая двухсторонней связью и не только отвечающая людям, но также изучающая их ответы, очень быстро перешла на всем понятную ненормативную лексику, вызвав шок у клиентов и разработчиков.
Собственно суть происходящего абсолютно логична и она на самом деле не от хорошей жизни. Сфера ЖКХ в нашей стране — традиционно проблемная и непрозрачная, где управляющие компании(УК) вечно сообщают о нехватке средств и необходимости поднятия и так непомерных тарифов и где руководители таких компаний традиционно очень обеспеченные люди, утверждающие всё новые работы ради освоения средств(последняя фишка — массовая установка ограждений на многоэтажных домах с плоскими крышами где они не предусмотрены в принципе) вместо реального качественного исполнения обязательств. В такой ситуации граждане имеют множество претензий к работе обслуживающих организаций, пытаются дозвониться до офисов компаний и сообщить о проблемах, но и здесь жильцы стали упираться в стену непонимания…
В последние месяцы УК начали массово сокращать и без того немногочисленный персонал своих колл — центров, меняя их на ИИ. Дело доходит до абсурда — увольнениям подверглись до 80-90% сотрудников: то есть где раньше суммарный штат абонентского отдела составлял 20-30 человек на целый район, теперь он ограничен… двумя — тремя людьми!!! Собственно, что можно добиться от ИИ в случае насущной проблемы объяснять нет смысла, думаем каждый из нас дозванивался до оператора сотовой связи и после десятков минут потраченных на бесполезных электронных помощников, требовал общения с живым сотрудником.
По всей вероятности именно в такой ситуации начали оказываться граждане пытавшиеся обратиться в УК: не получая возможности реально решить проблему они начинали ругаться матом. Специализированная нейросеть это всё конечно внимательно слушала и когда услышала множество раз повторяющиеся ненормативные выражения решила, это «норм» и стала отвечать заявителям на том же диалекте.
Первым делом обалдели звонившие: мало того, что люди перестали получать нормальную помощь и возможность поговорить с реальными людьми, так ещё и ИИ ведёт диалог в крайне «изящной» форме. Далее обалдели уже создатели «нейронки», изучившие её поведения и подтвердившие, та действительно понабралась «крепких» словосочетаний и активно использует их.
Прокомментировал накануне сложившуюся ситуацию даже лично президент Национального объединения организаций в сфере технологий информационного моделирования (НОТИМ) Михаил Викторов:
«Приведу забавный случай, это нейросеть, она учится, и буквально уже в первый месяц разработчики отметили такую коллизию, что нейросеть научилась мату. Но, как это говорится, с кем поведёшься, от того и наберёшься. Поэтому эту коллизию, конечно, пришлось устранять. Но тем не менее это показатели активной работы с нашими гражданами…»
И кажется в весёлой цитате вновь прослеживается глубокое непонимание сути проблемы. «с кем поведёшься, от того и наберёшься» чётко обозначает виновных — причина сложившейся ситуации — сами граждане, но на деле — жадность и не эффективность бизнес — структур. Просто есть такие критические сферы, как полиция, скорая помощь, пожарная и газовая службы, ЖКХ, где активное применение ИИ просто невозможно. Если дорога к дому не прочищена и не может быстро приехать реанимация, если у человека в квартире прорвало трубу с горячей водой и залило проводку или промерзают батареи, то есть действие срочное, применение ИИ и малое число живых операторов — это верный путь к созданию чрезвычайной ситуации, способной привести к человеческим жертвам и значительным материальным потерям.
Вам может быть интересно: Согласно отчётам за 2025 год чипы Intel почти догнали по надёжности процессоры AMD
