Роботи все ще не можуть замінити людину на низькокваліфікованій роботі, але вони вже витісняють людей з висококваліфікованих посад. Однак коли алгоритм бере на себе керівництво, задоволеними залишаються лише власники компаній. Для працівників алгоритми стали найгіршим видом начальників. Штучний інтелект постійно спостерігає за працівниками, пред’являє нездійсненні вимоги, а потім звільняє без пояснення причин.
У першій половині двадцятого століття такі мислителі, як Джон Мейнард Кейнс і Бертран Рассел, передбачали, що розвиток технологій до цього моменту призведе до того, що ми будемо працювати приблизно по п’ятнадцять-двадцять годин на тиждень, звільнені від важкої праці.
Очевидно, це майбутнє не настало і замість того, щоб розділяти навантаження на роботі, алгоритми взяли на себе іншу роль: роль професійного управлінського класу.
Людей перетворюють на бездумних роботів
Стівен Нормандін, шістдесятирічний ветеран армії з Фенікса, штат Арізона, був водієм доставки Amazon. Минулого року він повідомив, що його без пояснення причин звільнила система алгоритмічного Управління персоналом (HRM) компанії.
“Я залежу від цієї роботи, щоб вижити, – пояснив Нормандін Bloomberg в червні. – У мене постійний рейтинг тому, що я завжди все доставляю. Я ніколи не пропускав жодного кварталу. Я завжди приходжу рано чи вчасно. Я ніколи не скасовував пізно. У цьому просто немає ніякого сенсу.’
Історії, подібні до історії Стівена, стають все більш поширеними. Як і Uber, чий алгоритмічний процес ідентифікації особи звинуватили в расизмі звільнених кур’єрів, Amazon майже повністю передає відповідальність за ключові кадрові рішення агентам, які не є людьми. Від управління квотами продуктивності до повсюдного спостереження, найму, звільнення і навчання працівників.
Хоча Amazon може бути самим активним у цій сфері, цей гігант онлайн-торгівлі далеко не єдиний. Недавнє дослідження показало, що сорок відсотків відділів кадрів міжнародних компаній використовують інструменти на основі штучного інтелекту.
Результати були передбачувано катастрофічними. У звіті UNI Global, Федерації профспілок, що представляють працівників Amazon по всьому світу, говориться, що використання алгоритмічних систем управління персоналом для нескінченного підвищення ефективності створює “величезний психологічний стрес для працівників-людей”.
Один співробітник Amazon з Великобританії заявив, що технологія, що спостерігає за ними, вплинула на їхнє психічне здоров’я. Інший сказав ,що системи контролю Amazon змушують їх відчувати себе контрольованими та аналізованими, як якщо б я був машиною.
На момент написання звіту UNI компанія Amazon випробовувала носимі пристрої тактильного зворотного зв’язку для працівників складу. Девайси використовують цілеспрямовані вібрації для максимально швидкого управління рухами рук, щоб “максимізувати ефективність”.
Жодного шансу на оскарження
Алгоритми використовуються не тільки для спостереження за працівниками, а й для їх дисциплінування. Там, де Нормандін і його колеги-водії Flex піддавалися механізованій шкалі оцінок, працівники складу Amazon описали систему балів. Кожне очко є недоліком і може бути призначено за щось настільки ж просте, як запит на зміну або половину зміни. Дев’ять балів для сезонного працівника або тринадцять балів для звичайного працівника означає, що їх звільнили.
Очікування, встановлені штучним інтелектом, стають неможливими для задоволення або оскарження. Менеджери-люди, самі керовані системою, нездатні використовувати емпатію або здоровий глузд для втручання в процес прийняття рішень. Вони часто залишають останнє слово про санкції або звільнення за рядком коду.
У водіїв доставки Amazon в США, які незгодні з рішенням алгоритму, є десять днів, щоб подати апеляцію ще одному боту, протягом якого їм заборонено працювати. Якщо вони програють, що вони зазвичай і роблять, передача спору в арбітраж обходиться в 200 доларів – часто це непереборна сума.
Хайтек повертає рабство
Замість того щоб займатися проблемами алгоритмічного управління, Amazon використовує тупість алгоритмів в якості зброї.
Працівникам на 179 складах Amazon по всій території Сполучених Штатів в минулому році неправильно платили через збій в системі відпусток Amazon. Система скорочувала чеки на оплату праці щоразу, коли співробітники подавали заяви на оплачувану або неоплачувану відпустку.
Довільні звільнення, засновані на збоях в розпізнаванні осіб, є звичайним явищем, змушуючи працівників усвідомлювати можливість їхньої заміни.
Весь потенціал дискримінації за ознакою раси, статі або інвалідності залишається прихованим за чорним ящиком штучного інтелекту.
Алгоритмічні системи управління персоналом являють собою унікальну проблему для профспілок. Як ви укладаєте угоду з роботом?
Для Алека Макгілліса, автора книги “Виконання: Перемога та поразка в Америці одним клацанням миші”, компанія робить ще один крок вперед, щоб досягти цієї прозорості, поділяючи свою робочу силу на класи … розподілені по карті”.
Це означає, що менеджери-люди, інженери та розробники програмного забезпечення, швидше за все, будуть фізично відокремлені від ненадійних працівників та штучного інтелекту. Це гарантує, що низькокваліфіковані працівники матимуть мінімальні можливості поговорити з людьми, які мають реальний вплив.
Існує також проблема важелів впливу. У Amazon практично необмежений вибір робочої сили: для компанії, яка наймає людей у кількості як населення якогось міста, утримання працівників не варте уваги. Ну і що з того, що цифровий Бос звільнить працівника, тому що він не може упізнати його через нову стрижку? Є багато інших.
Оцінки ефективності алгоритму часто носять підвищувальний характер. У звіті про алгоритмічне управління, опублікованому в журналі “Управління людськими ресурсами” в 2019 році, стверджується, що алгоритмічні системи управління персоналом грають ключову роль у виконанні швидких і ефективних ринкових транзакцій, цінних для контролю працівників у масштабі.
Фахівці з ділової етики стверджують, що алгоритмічні системи управління персоналом можуть перешкоджати здатності працівників управляти або продавати свої можливості.
Проблиск надії все-таки є
Недавні перемоги над руйнівниками профспілок Amazon, тим не менш, дають проблиски надії. UNI Global приступила до розробки “угод про використання алгоритмів”, які включають ключові вимоги до “етичного алгоритмічного управління”.
Серед них – акцент на більшій прозорості даних, щоб показати працівникам, як і чому алгоритми приймають рішення. Багато хто вважає, що це ключ до того, щоб відкрити чорний ящик Amazon і забезпечити наявність належних записів, що показують, які рішення були прийняті, коли і чому.
Але у сучасного і технічно грамотного робочого руху теж є можливості піти далі. Принцип “людина в команді” – підтримуваний, зокрема, Європейською Конфедерацією профспілок, не дозволяє виключно алгоритмам вирішувати долю працівника.
Працівникам надається право звернутися до людини, уповноваженої перевизначати алгоритм, не побоюючись відсторонення або звільнення.
Посилення регулювання може також відстежувати алгоритми на предмет упередженості та дискримінації. При цьому результати цих перевірок будуть вільно доступні будь-кому, на кого впливають алгоритмічні рішення, будь то працівник, менеджер або представник профспілки.
Кінцевою метою, однак, повинна бути демократизація технологій на робочому місці, які повинні розроблятися і застосовуватися тільки за участю тих, хто дійсно розуміє і виконує роботу.
Тільки цей основний принцип – яким би утопічним він не здавався деяким – може допомогти розплутати павутину несправедливості, яку все ще плетуть такі компанії, як Amazon, – і рухатися до колись задуманого світу, в якому технології працюють на благо всіх.
За матеріалами: Tribunemag
Мабуть, людей обманюють тисячоліттями.