Raspberry Pi SC2166 : AI HAT+ 2 (40TOPS) — це додаткова плата на базі Прискорювача (Акселератора) Штучного Інтелекту (ШІ, AI) Hailo-10H, яка додає можливості генеративного штучного інтелекту до Raspberry Pi 5. Маючи 8 ГБ виділеної вбудованої оперативної пам'яті, AI HAT+ 2 ідеально підходить для локального запуску моделей великих мовних моделей (LLM) та візуально-мовних моделей (Моделі Зору та Мови VLM), залишаючи Raspberry Pi 5 вільним для виконання інших завдань. AI HAT+ 2 забезпечує надійний, прискорений генеративний штучний інтелект з низькою затримкою на периферії, що робить його ідеальним вибором для таких застосувань, як автономне керування процесами, безпековий аналіз даних, управління об'єктами та робототехніка.

SC2166 : AI HAT+ 2 (40TOPS) забезпечує продуктивність 40 тераоперацій на секунду (TOPS) для виведення INT4, при цьому продуктивність комп'ютерного зору еквівалентна або перевищує 26 TOPS AI HAT+. Набір зразків моделей надається Hailo; Користувачі також можуть навчати власні моделі зору або точно налаштовувати генеративні моделі ШІ за допомогою адаптації низького рангу (LoRA) відповідно до своїх застосувань, таких як перетворення мовлення на текст, переклад або аналіз візуальної сцени.

Як і оригінальний Raspberry Pi AI HAT+, SC2166 : AI HAT+ 2 (40TOPS) взаємодіє через інтерфейс PCI Express Raspberry Pi 5. Коли на хост-комп'ютері Raspberry Pi 5 запущено оновлений образ Raspberry Pi OS, він автоматично виявляє вбудований прискорювач Hailo та робить його доступним для обчислювальних завдань ШІ. Вбудовані програми камери rpicam в Raspberry Pi OS нативно підтримують модуль ШІ, автоматично використовуючи прискорювач для запуску сумісних завдань постобробки.

Все програмне забезпечення для сумісних генеративних моделей ШІ можна знайти в репозиторії програм Hailo на GitHub.

Специфікація

Характеристики

Прискорювач штучного інтелекту Hailo-10H забезпечує продуктивність операцій логічного висновку 40 TOPS (INT4)
Продуктивність моделей комп'ютерного зору, порівнянна з Raspberry Pi AI HAT+ (26 TOPS) Ефективно запускає генеративні моделі штучного інтелекту, використовуючи 8 ГБ вбудованої оперативної пам'яті. Повністю інтегрований у програмний стек камери Raspberry Pi Відповідає специфікації Raspberry Pi HAT+ Постачається з додатковим радіатором*, а також 16-міліметровим роз'ємом для стекування, різьбовими дистанційними проставками та гвинтами для встановлення на Raspberry Pi 5 зі встановленим активним охолоджувачем Raspberry Pi.

Інструкції щодо встановлення радіатора
*Хоча радіатор, що постачається в комплекті, є опціональним, користувачам, які запускають бенчмарки або дуже інтенсивні робочі навантаження штучного інтелекту, рекомендується встановити його, щоб запобігти тепловому тротлінгу (throttling).
1. Зніміть захисний папір з нижньої сторони виробу.
2. Переконайтеся, що ваш Raspberry Pi AI HAT+ 2 вимкнено. Обережно розмістіть радіатор у правильному місці на AI HAT+ 2, переконавшись, що він не зачепив жодного роз'єму.
3. Зіставте два чорні штифти з двома спеціальними отворами для радіатора.
4. Після правильного розташування рівномірно натисніть на верхівки двох штифтів одночасно, доки вони не клацнуть, що означає, що вони закріплені на платі.
5. Ми рекомендуємо не знімати радіатор після його встановлення на Raspberry Pi AI HAT+ 2.
Зняття радіатора призведе до погіршення стану штифтів та термопрокладок і, ймовірно, до пошкодження виробу.
6. Перед використанням переконайтеся, що штифти не пошкоджені та надійно закріплені на AI HAT+ 2.

Застереження щодо безпеки
Щоб уникнути несправності або пошкодження цього продукту, дотримуйтесь наступного:
• Raspberry Pi AI HAT+ 2 слід підключати до Raspberry Pi 5 лише через інтерфейс PCIe та роз'єм GPIO.
• Цей продукт слід використовувати в добре провітрюваному приміщенні, а якщо він використовується всередині корпусу, його не слід накривати.
• Під час використання цей продукт має бути надійно закріплений і не повинен контактувати з струмопровідними предметами.
• Усі периферійні пристрої, що використовуються з цим продуктом, повинні відповідати відповідним стандартам країни використання та бути відповідним чином позначені, щоб забезпечити дотримання вимог безпеки та продуктивності.
• Кабелі та роз'єми всіх периферійних пристроїв, що використовуються з цим продуктом, повинні мати належну ізоляцію, щоб дотримуватися відповідних вимог безпеки.
• Експлуатація цього пристрою потребує нагляду дорослих.
• Не піддавайте впливу води або вологи, а також не кладіть на струмопровідну поверхню під час роботи.
• Не піддавайте впливу тепла від будь-яких джерел; комп'ютери Raspberry Pi та Raspberry Pi SC2166 : AI HAT+ 2 (40TOPS) розроблені для надійної роботи за нормальних температур навколишнього середовища.
• Будьте обережні під час роботи, щоб уникнути механічних або електричних пошкоджень друкованої плати та роз'ємів.
• Під час роботи не торкайтеся друкованої плати або тримайте її лише за кути, щоб мінімізувати ризик пошкодження електростатичним розрядом.