Мы видели немало художественных произведений на тему того, что может случиться, если доверить решать судьбы людей искусственному интеллекту. Реальность порой ничем не лучше мрачной фантастики, и сломать кому-то жизнь может одна ошибка в программе. В Англии раскрыли жуткую историю — местная почта в течение 20 лет наказывала своих сотрудников за преступления, которые они не совершали. И все из-за бага в софте для бухгалтерского учета.
Начиная с 2000-го года, британская почтовая служба Post Office автоматизировала учет своих финансов. Для этого использовали программу Fujitsu Horizon. Из года в год Horizon стабильно показывала недостачу, которая исчислялась десятками тысяч фунтов стерлингов, а вина за пропажу денег неизменно падала на сотрудников почты.
В период с 2000 по 2014-й год в суде по обвинению в хищении оказалось 736 работников Post Office. Сотни из них в процессе лишились своей работы, репутации, семьи, друзей и были вынуждены возмещать несуществующие убытки из собственного кармана. Часть обвиненных оказалась в тюрьме, их жизни были сломаны, а один человек, узнав, что на него всерьез пытаются повесить кражу 100 тысяч стерлингов, предпочел свести счеты с жизнью.
Первых оправдательных приговоров сотрудникам Post Office удалось добиться только в 2019-м году. Вслед за ними суд оправдал еще 555 работников этой почтовой службы, обвиненных по схожим делам. Им присудили компенсацию, но в каком размере — остается неизвестным. 45 человек освободили из тюрьмы, они успели провести в заключении несколько месяцев. Прямо сейчас повторного рассмотрения ожидает 2.4 тысячи обращений — люди требуют пересмотра уже выплаченных почте штрафов.
В Post Office уже признали проблему. В бухгалтерской программе действительно была ошибка, из-за которой часть входящих средств не начислялась на баланс. Компания пообещала избавиться от проблемного софта и заменить его новым. И не постеснялась попросить денег у правительства, чтобы рассчитаться со всеми несправедливо обвиненными.
Цинизм ситуации еще и в том, что руководство Post Office о проблемах в ПО знало давно, но не только ничего не предпринимало, но и пыталось всячески замять инциденты. Остается надеяться, что все по-настоящему виновные понесут заслуженное наказание. Ведь деньги людям можно вернуть, но кто вернет им честное имя, ушедших жен, проведенное в тюрьме время и загубленные жизни?
