Спотовые инстансы Amazon EC2

Спотовые инстансы Amazon EC2 позволяют работать с неиспользуемыми ресурсами EC2 в облаке AWS. Спотовые инстансы доступны со скидкой до 90 % по сравнению с ценами на инстансы по требованию. Спотовые инстансы можно использовать для работы различных отказоустойчивых и гибких приложений либо приложений без сохранения состояния, предназначенных, к примеру, для обработки больших данных, запуска рабочих нагрузок на основе контейнеров, конвейеров непрерывной интеграции и непрерывной доставки (CI / CD), веб‑серверов, для высокопроизводительных вычислений (HPC) или для рабочих нагрузок, связанных с разработкой и тестированием. Спотовые инстансы тесно интегрированы с сервисами AWS, такими как Auto Scaling, EMR, ECS, CloudFormation, Data Pipeline и AWS Batch, что позволяет свободно выбирать способы запуска и обслуживания приложений, работающих на спотовых инстансах.

Более того, можно без лишних усилий комбинировать спотовые инстансы с инстансами по требованию, зарезервированными инстансами и инстансами Savings Plans для дальнейшей оптимизации стоимости рабочей нагрузки и производительности. Благодаря размерам инфраструктуры AWS спотовые инстансы могут обеспечить масштабирование и сокращение расходов при выполнении рабочих нагрузок в очень больших объемах. Дополнительно существует возможность перевести спотовые инстансы в спящий режим, остановить или прекратить их работу, когда сервис EC2 отзовет используемые ресурсы (соответствующее уведомление отправляется за две минуты). Только в AWS можно получить удобный доступ к неиспользуемым вычислительным ресурсам в таких больших масштабах – и все это со скидкой до 90 %.

Преимущества спотовых инстансов Amazon EC2

Низкая предсказуемая цена

Приобретая спотовые инстансы, можно сэкономить до 90 % по сравнению со стоимостью инстансов по требованию. Более того, чтобы оптимизировать стоимость рабочих нагрузок и производительность, можно выделять ресурсы из числа спотовых и зарезервированных инстансов, а также инстансов по требованию и инстансов Savings Plan с помощью сервиса EC2 Auto Scaling.

Широкое масштабирование

Спотовые инстансы позволяют получить преимущество от масштабов облака AWS. Можно запускать сверхмасштабируемые рабочие нагрузки и при этом существенно сокращать расходы или ускорять выполнение рабочих нагрузок с помощью параллельных задач.

Простота использования

Такие сервисы AWS, как EC2 Auto Scaling и ECS, а также интегрированные сторонние решения, например Terraform и Jenkins, позволяют без лишних усилий запускать и масштабировать спотовые инстансы, а также управлять ими.

Цены на Amazon EC2

Сервис Amazon EC2 доступен для бесплатного пробного использования. Доступно пять вариантов оплаты инстансов Amazon EC2: по требованию, Savings Plans, зарезервированные инстансы и спотовые инстансы. Вы также можете оплатить выделенный хостинг, чтобы ваши инстансы EC2 работали на физическом сервере, выделенном вам в индивидуальное пользование. Дополнительную информацию об оптимизации затрат на Amazon EC2 см. на странице затрат и ресурсов Amazon EC2.

Уровень бесплатного пользования

Уровень бесплатного пользования AWS включает 750 часов работы с инстансами t2.micro на базе Linux и Windows (t3.micro для регионов, где недоступны инстансы t2.micro) ежемесячно в течение одного года. Чтобы не превысить уровень бесплатного пользования, используйте только микроинстансы EC2.

По требованию

При использовании инстансов по требованию объем вычислительных ресурсов оплачивается на почасовой или посекундной основе, в зависимости от используемых инстансов. Долгосрочные обязательства или авансовые платежи не требуются. В зависимости от потребностей приложения можно увеличивать и уменьшать объем вычислительных ресурсов, оплачивая только работу используемых инстансов по указанному почасовому тарифу.

Инстансы по требованию рекомендуются:

• для пользователей, которым нужны недорогие и гибкие инстансы Amazon EC2 без каких‑либо авансовых платежей или долгосрочных обязательств;
• для приложений с кратковременной, неравномерной или непредсказуемой рабочей нагрузкой, выполнение которых нельзя прерывать;
• для разрабатываемых приложений, которые впервые тестируются в Amazon EC2.

Спотовые инстансы

Спотовые инстансы Amazon EC2 позволяют запрашивать свободные вычислительные ресурсы Amazon EC2, при этом экономия может составить до 90 % по сравнению с ценой по требованию. Подробнее.

Спотовые инстансы рекомендуются:

• для приложений с гибким диапазоном начала и окончания работы;
• для приложений, которые рентабельны только при использовании вычислительных ресурсов по очень низким ценам;
• для пользователей, которым срочно требуется большой объем дополнительных ресурсов.

Savings Plans

Savings Plans – это новая гибкая модель ценообразования, предусматривающая снижение оплаты за использование EC2 и Fargate при условии, что клиент обязуется использовать постоянный объем ресурсов (измеряемый в USD/час) в течение 1 или 3 лет.

Зарезервированные инстансы

На зарезервированные инстансы предоставляется значительная скидка (до 75 %) по сравнению с ценами на инстансы по требованию. Кроме того, когда зарезервированные инстансы связываются с определенной зоной доступности, они обеспечивают резервирование ресурсов и предоставляют гарантию того, что можно будет запускать инстансы, как только они потребуются.

Зарезервированные инстансы обеспечивают значительную экономию при запуске приложений со стабильной или предсказуемой нагрузкой (по сравнению с инстансами по требованию). Дополнительную информацию см. в разделе Приобретение зарезервированных инстансов.

Зарезервированные инстансы рекомендуются:

• для приложений со стабильной нагрузкой;
• для приложений, которым требуются зарезервированные ресурсы;
• клиентам, которые могут принять решение об использовании сервиса EC2 сроком на 1 или 3 года вперед с целью сокращения общих расходов на вычислительные ресурсы.

Выделенный хостинг

Выделенный хост – это физический сервер с инстансами EC2, предоставляемый только одному клиенту. Выделенный хостинг способствует сокращению расходов благодаря использованию существующих лицензий серверного ПО, например Windows Server, SQL Server или SUSE Linux Enterprise Server (в зависимости от условий лицензирования), а также обеспечивает соблюдение всех лицензионных требований. Подробнее.

• Можно приобрести на принципах оплаты по требованию (на почасовой основе).
• Можно приобрести на принципах оплаты зарезервированных инстансов с экономией до 70 % по сравнению с оплатой по требованию.

Посекундная оплата

При посекундной оплате учитывается только реально использованное время работы инстансов. Неиспользованные минуты и секунды до полного часа в счет не включаются, поэтому клиенты могут сосредоточиться на улучшении своих приложений, а не стараться максимально использовать выделенные часы. Такой способ оплаты особенно выгоден для инстансов, используемых в течение нерегулярных периодов времени, например для разработки и тестирования, обработки данных, аналитики, пакетной обработки, а также для игровых приложений.

Плата за использование инстансов EC2 начисляется с шагом в одну секунду; минимальный период использования составляет 60 секунд. Аналогичным образом плата за выделенное хранилище для томов EBS будет начисляться на посекундной основе с минимальным периодом использования 60 секунд. Посекундная тарификация доступна для следующих инстансов:

• инстансы по требованию, зарезервированные и спотовые инстансы;
• инстансы, запущенные в любых регионах и зонах доступности AWS;
• инстансы Amazon Linux или Ubuntu.

Сведения о связанных затратах, например за передачу данных, эластичные IP‑адреса и инстансы, оптимизированные для EBS, см. на странице цен на инстансы по требованию.

Эффективное использование spot-инстансов AWS

Spot-инстансы — это по сути продажа свободных в данный момент ресурсов со отличной скидкой. При этом инстанс могут в любой момент выключить и забрать обратно. В статье я расскажу о особенностях и практике работы с этим предложением от AWS.

Стоимость использования spot-инстанса может меняться время от времени. Во время заказа вы делаете ставку(bid) — указываете максимальную цену, которую готовы платить за использование. Именно баланс ставок и свободных ресурсов формирует итоговую стоимость, которая при этом отличается в разных регионах и даже в availability zones региона.

В определенный момент взвешенная цена может превысить цену обычного on-demand инстанса. Именно поэтому не стоит делать избыточные ставки — вам действительно могут продать инстанс по 1000$ за час. Не знаете, какую ставку сделать — указывайте цену on-demand инстанса (именно она используется по-умолчанию).

Жизненный цикл spot-инстанса

Итак, мы формируем запрос, а AWS выделяет нам инстансы. Как только Амазону понадобились выданные инстансы или цена превысила указанный нами лимит, запрос закрывается. Это значит, что наши инстансы будут terminated/hibernated.

Также запрос может быть закрыть из-за ошибки в запросе. И тут надо быть аккуратнее. Например, вы создали запрос и получили инстансы. А потом удалили ассоциированную IAM-роль. Ваш запрос закроется со статусом “error”. При этом инстансы будут остановлены.

И конечно же вы в любой момент можете отменить запрос, что так же приведет к остановке инстансов.

Сам запрос может быть:

• Одноразовым — как только у нас забрали инстансы, запрос закрывается
• Постоянным — инстансы нам возвращают после повторного включения.
• С гарантированным обслуживанием на 1-6 часов.

В итоге у нас есть две основные задачи для сервиса с желаемым 100% аптаймом:

• Формировать оптимальные spot-requests
• Обрабатывать события отключения инстанса

Средства

Одним из самых мощных средств работы со spot-запросами является spot fleet. Он позволяет динамически формировать запросы таким образом, чтобы удовлетворить заданные условия. Например, если инстансы подорожали в одной AvailabilityZone, то можно быстренько запустить такие же в другой. Также появляется такой замечательный фактор, как “вес” инстанса. Например, для выполнения задачи нам требуется 100 одноядерных ноды. Или 50 двухядерных. И это значит, на примере инстансов T2-типа, что мы можем использовать 100 small или 50 large или 25 xlarge. Именно оптимальное распределение и перераспределение минимизирует и стоимость, и вероятность того, что запрос будет неудовлетворен. Новсе же сохраняется вероятность того, что во всех AvailabilityZones не найдется нужного количества инстансов с нашими параметрами.

К счастью, AWS оставляет нам 2 мин между принятием решения об остановке и самим выключением. Именно а этот момент по ссылке начнет возвращаться таймер отключения:

Примерно так будет выглядеть простейший обработчик, который мы можем запускать в виде демона:

Немного усложним задачу — наши инстансы подключены к Elastic Load Balancer (ELB). Можно воспользоваться демоном из сниппета выше и через API сообщать балансеру статус. Но есть более элегантный способ — проект SeeSpot. Вкратце, демон смотрит одновременно и в /spot/termination-time и, опционально, в healthcheck url вашего сервиса. Как только AWS соберется изъять инстанс, он отмечается как OutOfService в ELB и может опционально выполнить финальный CleanUP task.

Итак, мы разобрались, как правильно обрабатывать отключение. Осталось только научиться сохранять требуемую производительность системы, если у нас вдруг решили забрать инстансы. Здесь нам поможет проект autospotting. Идея следующая: мы создаем обычную autoscaling-группу, содержащую on-demand инстансы. Скрипт autospotting находит эти инстансы и по-одному подменяет их полностью соответствующими spot-инстансами(поиск происходит по тэгу). У autoscaling групп есть собственны Healthcheck’и. Как только один из ee членов не проходит проверку, группа пытается вернуть свой объем и создает “здоровый” инстанс исходного типа(а это был on-demand). Таким образом мы сможем переждать, например, скачек цены. Как только spot-requests снова начнут удовлетворяться, autospotting начнет постепенную замену. От себя добавлю, что проект сделан достаточно качественно, и имеет, в том числе, подходы для конфигурации с помощью terraform или cloudformation.

В заключении хотел бы порекомендовать по-возможности использовать spot-инстансы для stateless сервисов. Или же применять S3/EFS. Для конфигураций ECS необходимо подумать про tasks re-balancing.

AWS Insight: Spot Instances

Привет!

Продолжая тему об экономии денег в облаках, сегодня я расскажу о . Напомню, что в AWS есть как минимум 3 основных вида оптимизации расходов:

• автомасштабирование
• резервирование
• использование спот инстансов

Что такое Spot инстанс?

Это обычный EC2 или VPC инстанс, но есть некоторые нюансы работы:

1. Как было сказано ранее, это обычный инстанс. Вычислительные и сетевые ресурсы, дисковые скорости и всё остальное у машин такое же, как и обычных EC2 инстансов.
2. Вы сами устанавливаете цену, которую будете платить за час использования инстанса. Больше вы платить не будете.
3. Инстанс может быть выключен в любое время, если, например, кто-то предложил цену больше за слот, который вы занимаете, а других нет.
4. Оплата производится за полный час работы инстанса. Часть часа отбрасывается в пользу клиента — в меньшую сторону до полного часа.

Спот инстансы используют незанятые слоты EC2, чтоб те не простаивали.

Зачем использовать машины, которые могут отключиться в любую минуту?

Всё очень просто. Это дёшево. Если не важна критичность аптайма, то это идеальный вариант работы.

Вот простой юзкейс использования Spot инстансов. Каждую ночь ваше приложение собирает картинки, которые пользователи загрузили за день и создаёт из них иконки. Всё до нелепости просто: поднимается 50 Medium High-CPU инстансов, смотрят в SQS и по очереди процессят всё в папке uploaded в вашем бакете S3. Ну и складывают в папку processed.

Они обычно справляются за 2 часа. Нет смысла их резервировать на такое количество времени, даже Light Utilization Reservation не покроет расходов. За эти 2 часа за инстансы вы заплатите

2 * 50 * $0.165 = $16.5 в день и

На этом можно сэкономить. Нужно всего-навсего начать использовать Spot Instances. На момент написания статьи стоимость Spot Medium High-CPU инстанса $0.018. Ощутим разницу между $0.018 и $0.165. Итак, в заявку ставим в среднем в 2 раза больше стоимости спот инстанса за час, чтоб наверняка не перебили наши ставки. И получим следующие расчёты:

2 * 50 * $0.036 = $3.6 в день и

При таком раскладе получим

80% экономии. Единственное, о чем нам нужно помнить — это то, что инстанс могут потушить. Правильные обработки фейлов — вот что должно быть заложено в вашем софте.

Как заказать спот инстанс?

В меню Instances в консоли находим Spot Requests и создаём новый запрос. Выбираем подготовленный AMI с нашим софтом. Далее вбиваем параметры спот запроса:

Ну и дальше как обычный инстанс.

Больше о спот инстансах можно почитать на официальной страничке. Там есть много картинок и разного рода объяснений почему это всё круто.

Напоследок небольшой опросничек по теме.

Только зарегистрированные пользователи могут участвовать в опросе. Войдите, пожалуйста.