Важко сказати, наскільки це вплине на їхній підсумковий результат, але новий процесор AMD "Halo Strix" тепер є найкращою системою для тих, хто хоче запустити локальний LLM.
Можна отримати один з цих з 128 ГБ оперативної пам'яті приблизно за $1.5k і він буде ідеально працювати з середніми/великими моделями, такими як gpt-oss 120B.
Для довідки, один Nvidia 5090 ( без решти ПК) коштує $2-3k і не може запускати цю повну модель.
Mac mini з 64 ГБ ОПЕРАТИВНОЇ ПАМ'ЯТІ коштує 2 тис. доларів і також не може запустити цю повну модель.
Mac Studio з 128 ГБ оперативної пам'яті може його запустити, але коштує $3.7k
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Важко сказати, наскільки це вплине на їхній підсумковий результат, але новий процесор AMD "Halo Strix" тепер є найкращою системою для тих, хто хоче запустити локальний LLM.
Можна отримати один з цих з 128 ГБ оперативної пам'яті приблизно за $1.5k і він буде ідеально працювати з середніми/великими моделями, такими як gpt-oss 120B.
Для довідки, один Nvidia 5090 ( без решти ПК) коштує $2-3k і не може запускати цю повну модель.
Mac mini з 64 ГБ ОПЕРАТИВНОЇ ПАМ'ЯТІ коштує 2 тис. доларів і також не може запустити цю повну модель.
Mac Studio з 128 ГБ оперативної пам'яті може його запустити, але коштує $3.7k