GPU або Graphics Processing Unit — це спеціалізований тип процесорів, здатних швидко опрацьовувати великі обсяги інформації. Найбільше вони використовуються для AI-процесів, геймінгу та рендерингу графіки, а більшість користувачів знають їх як відеокарти.

На відміну від CPU — центрального процесора, який використовується для базових операцій і проводить обчислення операцій одна за одною по черзі, — GPU застосовується за потреби ведення кількох паралельних обчислень відразу. Завдяки цьому процеси, що потребують високого навантаження, можуть проходити швидше.

Ще більше їх пришвидшити можна замовивши ресурси у хмарі GPU Cloud, розташованій на серверах з кількома потужними GPU. У GigaCloud використовується NVIDIA T4 та NVIDIA A40, які спеціально створені для віртуалізації. Один такий T4 має 16 GB пам’яті шостого покоління GDDR6, а А40 — 48 GB. У хмарі дані процесора віртуалізуються та його можливості перерозподіляються між користувачами, кожен з яких отримує потужності процесора у віртуалізованому вигляді, vGPU.

NVIDIA A40 (зліва) та Т4 (справа)

Переваги хмарних відеокарт порівняно з фізичними:

• Можливість швидко масштабуватися, дозамовляючи більше ресурсів у лічені хвилини;
• Скорочення витрат на обслуговування, адже не потрібно купувати та встановлювати деталі самостійно;
• Доступність до ресурсів з будь-якого пристрою.

Розповідаємо три сценарії того, які задачі може вирішити хмара, оснащена GPU. На жаль, через умови співпраці з деякими клієнтами ми не можемо розкривати усі назви компаній, тож передамо лише сутність їхньої роботи в нашій інфраструктурі.

Проєкти зі штучним інтелектом

Раніше GPU використовувалися переважно для графіки, але з поширенням штучного інтелекту їх почали широко застосовуватися для обчислень загального призначення на графічних процесорах (GPGPU), зокрема й для навчання АІ. З 2007 року почало створюватися програмне забезпечення, підлаштоване спеціально для поєднання цих двох. А розвиток хмарних технологій зробив GPU для нейромереж ще доступнішими.

Так компанія UniTalk використовує публічну хмару з GPU від GigaCloud для своїх проєктів з використанням штучного інтелекту. Зокрема у створенні голосового робота для автоматизації комунікації з клієнтами. Усього за кілька хвилин система може обробити до кількох тисяч дзвінків, повноцінно спілкуючись з користувачами замість менеджерів.

Інша компанія, яка є клієнтом GigaCloud, використовує хмарні потужності задля підлаштування генеративної AI-моделі Stable Diffusion під свої задачі. Перенісши все необхідне для навчання системи у хмару, включно з об’ємною базою даних, вони автоматизували створення зображень персонажів у своєму корпоративному стилі. Це рішення дозволило зекономити час на промальовуванні кожного візуалу для сайту, пакування продукції та реклами, а також знизити кошторис проєкту, адже не довелося закуповувати та утримувати дороге обладнання.

Робота з відео і графікою

Найпоширеніша сфера роботи з GPU — обробка візуальних матеріалів, від 3D зображень до спецефектів. Зокрема усі відео каналу GigaCloud About монтуються в Adobe Premiere Pro у публічній хмарі.

GPU роблять монтаж відео швидшим

Одні з наших клієнтів, студія відео продакшну, редагують відео в DaVinci Resolve та Adobe Premiere Pro. На стаціонарних комп’ютерах ці програми зазвичай дуже повільно працювали та постійно “злітали” через перенавантаження системи. Однак після їхнього перенесення у хмару GigaCloud, компанія отримала змогу робити рендеринг відео без збоїв, а також працювати над одним проєктом паралельно, під’єднуючись до одного віртуального робочого стола. Це прискорило монтаж одного півгодинного відео з 1 місяця до 2 тижнів.

Аналітика даних

Робота з Big Data, створення моделей, обчислень та симуляцій неможлива без відеокарт, і це актуально в різних сферах. Наприклад:

— Ритейл

Один з ритейлерів, з яким ми співпрацюємо як хмарний оператор, використовує Apache Spark для дослідження споживацьких настроїв, визначення ефективності акційних пропозицій, підбору персоналізованих знижок для лояльних покупців тощо. GPU, хмара та штучний інтелект у сукупності дозволили в 5 разів пришвидшити опрацювання всіх покупок.

— Фінанси

Завдяки потужному процесору можна ефективніше відстежувати ризики для захисту систем чи передбачати помилки. Зокрема це важливо у фінансовому секторі, де потрібно швидко помічати підозрілі операції серед великого масиву даних. Опрацьовуючи значні обсяги даних про клієнтів, фінустанови можуть навчати нейронні мережі виявляти порушення у транзакціях, і деякі з банків, розміщених у нашій інфраструктурі, це використовують.

— Наукові дослідження

Серед клієнтів GigaCloud є навчальні установи, які розміщують наукові програми та моделі у нашій хмарі з GPU. Одна з них використовує геоінформаційну систему ArcGIS Pro для дослідження геодезії — за допомогою процесора можна створювати розгорнуті деталізовані зображення карт та робити їх інтерактивними. Інша — для прорахунку сценаріїв міжнародних відносин за допомогою інструменту International Futures. У хмарі він швидше вираховує економічні, соціополітичні та географічні показники та робить прогноз на майбутнє.

— Медицина

Для опрацювання даних пацієнтів, які потребують глибокого аналізу та швидкого виявлення патологій, також потрібні чималі ресурси. Наш клієнт, один з медичних центрів, розміщує в GigaCloud програмне забезпечення FotoFinder, яке створює карти родимок. Деякі функції програми виконує штучний інтелект, який поступово навчається вирізняти аномальні зміни новоутворень шкіри швидше та точніше. ПЗ потребує великої кількості широкоформатних зображень, тому відеокарта тут як ніколи доречна. Також інша клініка використовує Graphics Processing Unit для обробки стоматологічних даних, створення 3D-моделей ротової порожнини та моделювання сценаріїв лікування.

Читайте також більше про переваги Cloud GPU у нашому блозі.