#063 ML Виталий Кулиев. А чё там по железу?

В гостях выпуска Виталий Кулиев - разработчик ИИ-проектов и автор YouTube-канала, который так и называется "Виталий Кулиев". С Виталием сначала я познакомился заочно через просмотр его роликов по ML и компьютерному железу, которое требуется для локального запуска опенсорсных моделей машинного обучения, а теперь и лично. Разговариваем о том, какие есть возможности у разработчиков и экспериментаторов ИИ нашего времени для работы на своих компьютерах. 3090, 3090 ti или 4090? Какие LLM можно запустить локально? В какие ограничения упираются локальные эксперименты с большими моделями? Можно ли и имеет ли смысл строить распределенную систему обучения больших моделей, по примеру распределенного майнинга криптовалют? Почему две видеокарты лучше, чем три? Обо всем этом в выпуске!<p><br /></p><p>Ссылки выпуска:</p><p><br /></p><p>YouTube канал Виталия (<a href="https://www.youtube.com/@kuliev.vitaly">https://www.youtube.com/@kuliev.vitaly</a>)</p><p>Телеграм-канал Виталия (<a href="https://t.me/vitaly_kuliev_it">https://t.me/vitaly_kuliev_it</a>)</p><p>GPU сервера компании immers cloud. По реферальной ссылке доступен бонус 20% к первому пополнению (<a href="https://immers.cloud/signup/r/20240522-6407208-835/">https://immers.cloud/signup/r/20240522-6407208-835/</a>)</p><p> Альфа версия проекта Виталия для доступа к нейросетям по API (<a href="https://rus-gpt.com/">https://rus-gpt.com/</a>)</p><p><br /></p><p>Буду благодарен за обратную связь!</p><p><br /></p><p>Мой телеграм для связи (<a href="https://t.me/kmsint">https://t.me/kmsint</a>)</p><p>Подписывайтесь на телеграм-канал "Стать специалистом по машинному обучению" (<a href="https://t.me/toBeAnMLspecialist">https://t.me/toBeAnMLspecialist</a>)<br /></p><p><br /></p><p>Я сделал бесплатный курс по созданию телеграм-ботов на Python и aiogram на Степике (<a href="https://stepik.org/120924">https://stepik.org/120924</a>). Присоединяйтесь, если хотите научиться разрабатывать телеграм-ботов!<br /></p><p>Также в соавторстве с крутыми разработчиками я пишу курс по продвинутой разработке телеграм-ботов с элементами микросервисной архитектуры (<a href="https://stepik.org/a/153850?utm_source=mlpodcast&amp;utm_campaign=ep_63">https://stepik.org/a/153850?utm_source=mlpodcast&amp;utm_campaign=ep_63</a>).<br /></p><p><br /></p><p>Выразить благодарность можно добрым словом и/или донатом (<a href="https://www.tinkoff.ru/rm/kryzhanovskiy.mikhail11/NkwE718878/">https://www.tinkoff.ru/rm/kryzhanovskiy.mikhail11/NkwE718878/</a>)<br /></p>