Роботы все еще не могут заменить человека на низкоквалифицированной работе, но они уже вытесняют людей с высококвалифицированных должностей. Однако когда алгоритм берет на себя руководство, довольными остаются лишь владельцы компаний. Для работников алгоритмы стали худшим видом начальников. Искусственный интеллект постоянно наблюдает за работниками, предъявляет невыполнимые требования, а затем увольняет без объяснения причин.
В первой половине двадцатого века такие мыслители, как Джон Мейнард Кейнс и Бертран Рассел, предполагали, что развитие технологий до этого момента приведет к тому, что мы будем работать примерно по пятнадцать-двадцать часов в неделю, освобождены от тяжелого труда.
Очевидно, это будущее не наступило и вместо того, чтобы разделять нагрузку на работе, алгоритмы взяли на себя другую роль: роль профессионального управленческого класса.
Людей превращают в бездумных роботов
Стивен Нормандин, шестидесятилетний ветеран армии из Феникса, штат Аризона, был водителем доставки Amazon. В прошлом году он сообщил, что его без объяснения причин уволила система алгоритмического управления персоналом (HRM) компании.
«Я завишу от этой работы, чтобы выжить, — пояснил Нормандин Bloomberg в июне. — У меня постоянный рейтинг потому, что я всегда все доставляю. Я никогда не пропускал ни одного квартала. Я всегда прихожу рано или вовремя. Я никогда не отменял поздно. В этом просто нет никакого смысла.’
Истории, подобные истории Стивена, становятся все более распространенными. Как и Uber, чей алгоритмический процесс идентификации лица обвинили в расизме уволенных курьеров, Amazon почти полностью передает ответственность за ключевые кадровые решения агентам, которые не являются людьми. От управления квотами производительности до повсеместного наблюдения, найма, увольнения и обучения работников.
Хотя Amazon может быть самым активным в этой области, этот гигант онлайн-торговли далеко не единственный. Недавнее исследование показало, что сорок процентов отделов кадров международных компаний используют инструменты на основе искусственного интеллекта.
Результаты были предсказуемо катастрофическими. В отчете UNI Global, Федерации профсоюзов, представляющих сотрудников Amazon по всему миру, говорится, что использование алгоритмических систем управления персоналом для бесконечного повышения эффективности создает огромный психологический стресс для работников-людей».
Один сотрудник Amazon из Великобритании заявил, что технология, что наблюдает за ними, повлиял на их психическое здоровье. Другой сказал ,что системы контроля Amazon заставляют их чувствовать себя контролируемыми и рассматриваемыми, как если бы я был машиной.
На момент написания отчета UNI компания Amazon испытывала носимые устройства тактильной обратной связи для работников склада. Девайсы используют целенаправленные вибрации для максимально быстрого управления движениями рук, чтобы «максимизировать эффективность».
Ни единого шанса на обжалование
Алгоритмы используются не только для наблюдения за работниками, но и для их дисциплинирования. Там, где Нормандин и его коллеги-водители Flex подвергались механизированной шкале оценок, работники склада Amazon описали систему баллов. Каждое очко является недостатком и может быть назначено за что-то столь же простое, как запрос на изменение или половину изменения. Девять баллов для сезонного работника или тринадцать баллов для обычного работника означает, что их уволили.
Ожидания, установленные искусственным интеллектом, становятся невозможными для удовлетворения или оспаривания. Менеджеры-люди, сами управляемые системой, неспособные использовать эмпатию или здравый смысл для вмешательства в процесс принятия решений. Они часто оставляют последнее слово о санкциях или увольнении по строке кода.
У водителей доставки Amazon в США, которые несогласны с решением алгоритма, есть десять дней, чтобы подать апелляцию еще одному боту, в течение которого им запрещено работать. Если они проигрывают, что они обычно и делают, передача спора в арбитраж обходится в 200 долларов — часто это непреодолимая сумма.
Хайтек возвращает рабство
Вместо того чтобы заниматься проблемами алгоритмического управления, Amazon использует тупость алгоритмов в качестве оружия.
Работникам на 179 складах Amazon по всей территории Соединенных Штатов в прошлом году неправильно платили за сбоя в системе отпусков Amazon. Система сокращала чеки на оплату труда всякий раз, когда сотрудники подавали заявления на оплачиваемый или неоплачиваемый отпуск.
Произвольные увольнения, основанные на сбоях в распознавании лиц, являются обычным явлением, заставляя работников осознавать возможность их замены.
Весь потенциал дискриминации по признаку расы, пола или инвалидности остается скрытым за черным ящиком искусственного интеллекта.
Алгоритмические системы управления персоналом представляют собой уникальную проблему для профсоюзов. Как вы заключаете сделку с роботом?
Для Алека Макгілліса, автора книги «Исполнение: Победа и поражение в Америке одним щелчком мыши», компания делает еще один шаг вперед, чтобы достичь этой прозрачности, разделяя свою рабочую силу на классы … распределены по карте».
Это означает, что менеджеры-люди, инженеры и разработчики программного обеспечения, скорее всего, будут физически отделены от ненадежных работников и искусственного интеллекта. Это гарантирует, что низкоквалифицированные работники будут иметь минимальные возможности поговорить с людьми, которые имеют реальное влияние.
Существует также проблема рычагов воздействия. В Amazon практически неограниченный выбор рабочей силы для компании, которая нанимает людей в количестве как население какого-то города, содержание работников не стоит внимания. Ну и что с того, что цифровой босс уволит работника, потому что он не может узнать его из-за новой стрижки? Есть много других.
Оценки эффективности алгоритма часто носят повышающий характер. В отчете о алгоритмическое управление, опубликованном в журнале «Управление человеческими ресурсами» в 2019 году, утверждается, что алгоритмические системы управления персоналом играют ключевую роль в выполнении быстрых и эффективных рыночных транзакций, ценных для контроля сотрудников в масштабе.
Специалисты по деловой этике утверждают, что алгоритмические системы управления персоналом могут препятствовать способности работников управлять или продавать свои возможности.
Проблеск надежды все-таки есть
Недавние победы над разрушителями профсоюзов Amazon, тем не менее, дают проблески надежды. UNI Global приступила к разработке соглашений об использовании алгоритмов», которые включают ключевые требования к «этического алгоритмического управления».
Среди них акцент на большей прозрачности данных, чтобы показать сотрудникам, как и почему алгоритмы принимают решения. Много кто считает, что это ключ к тому, чтобы открыть черный ящик Amazon и обеспечить наличие надлежащих записей, показывающие, какие решения были приняты, когда и почему.
Но у современного и технически грамотного рабочего движения тоже есть возможности пойти дальше. Принцип «человек в команде» — поддерживаемый, в частности, Европейской Конфедерацией профсоюзов, не позволяет исключительно алгоритмам решать судьбу работника.
Работникам предоставляется право обратиться к человеку, уполномоченному переопределять алгоритм, не опасаясь отстранения или увольнения.
Ужесточение регулирования может также отслеживать алгоритмы на предмет предвзятости и дискриминации. При этом результаты этих проверок будут свободно доступны любому, на кого влияют алгоритмические решения, будь то работник, менеджер или представитель профсоюза.
Конечной целью, однако, должна быть демократизация технологий на рабочем месте, которые должны разрабатываться и применяться только с участием тех, кто действительно понимает и выполняет работу.
Только этот основной принцип — каким бы утопическим он не казался некоторым может помочь распутать паутину несправедливости, которую все еще плетут такие компании, как Amazon, — и двигаться к некогда задуманного мира, в котором технологии работают на благо всех.
По материалам: Tribunemag
