Исследовательница из Google и специалист по кибербезопасности LaurieWired представила проект TailSlayer, который направлен на решение фундаментальной проблемы задержек памяти DRAM, известной специалистам еще с середины прошлого века. Она утверждает, что смогла сократить худшие показатели времени ожидания доступа к данным на невероятные 93 процента, хотя практическая цена такого улучшения заставляет серьезно задуматься о целесообразности этого метода для широкой публики. Современная оперативная память по своей природе напоминает дырявое ведро, которое постоянно нужно наполнять электрическим зарядом для сохранения записанной информации из-за особенностей конструкции конденсаторов.
Этот непрерывный процесс обновления происходит тысячи раз в секунду и становится причиной случайных остановок в работе процессора, когда тот пытается обратиться к ячейке памяти именно в момент её принудительной подзарядки. Хотя каждая такая задержка длится лишь мизерные доли микросекунды, для современных скоростных вычислительных чипов это означает сотни или даже тысячи потерянных циклов, в течение которых процессор просто простаивает без дела. Большинство обычных программ имеют механизмы для маскировки таких пауз, однако существуют специфические задачи, где даже минимальная нестабильность времени отклика приводит к критическим ошибкам или финансовым потерям.
Механизм работы TailSlayer и результаты тестирования на серверном оборудовании
Вместо того чтобы пытаться предсказать эти неизбежные паузы с помощью сложных алгоритмов, разработчица решила использовать грубую силу и архитектурную избыточность современных многоканальных серверных систем. Её метод заключается в полном дублировании рабочего набора данных в разных физических каналах памяти и одновременном запуске абсолютно одинаковых операций на нескольких ядрах процессора. Система просто принимает результат от того ядра, которое первым завершило операцию, игнорируя другое ядро, если оно вдруг наткнулось на цикл обновления памяти и временно затормозило.
Во время тщательного тестирования на мощных серверах Amazon AWS с процессорами Intel Xeon поколений Sapphire Rapids и Diamond Rapids удалось достичь стабилизации задержек на уровне 113 наносекунд против обычных 1697 наносекунд. Такие результаты выглядят чрезвычайно впечатляюще на бумаге, однако для достижения подобной предсказуемости приходится бессмысленно жертвовать львиной долей вычислительной мощности и объема доступной памяти. Даже на процессорах AMD EPYC с двенадцатью каналами памяти метод продемонстрировал снижение критических задержек на 89 процентов, что подтверждает работоспособность идеи на различном оборудовании независимо от производителя.
Критические недостатки и ограниченная сфера применения радикального метода
Главная проблема этого изобретательного подхода заключается в катастрофическом снижении общей эффективности системы, так как она фактически превращает дорогой многоядерный сервер в малопроизводительную однопоточную машину. Пользователю придется смириться с тем, что объем доступной оперативной памяти уменьшится во столько раз, сколько копий данных будет создано для обеспечения стабильного времени отклика. Это делает технологию TailSlayer абсолютно бесполезной для большинства повседневных задач, где критически важной является общая пропускная способность и возможность одновременного выполнения множества различных процессов.
Единственной сферой, где подобные колоссальные затраты ресурсов могут быть экономически оправданы, остается высокочастотный трейдинг на финансовых рынках, где задержка в несколько наносекунд часто стоит миллионов долларов упущенной прибыли. Сложные алгоритмы, борющиеся за право первыми выполнить сделку с акциями, требуют идеальной стабильности времени отклика, которую не способна гарантировать ни одна стандартная архитектура компьютера без подобных ухищрений. Для остального мира это изобретение останется интересным, но довольно специфическим экспериментом, который наглядно демонстрирует предел возможностей современного железа и отчаянные попытки его преодолеть.
