Ollama 0.30.0

Ollama для Mac — це нативна програма для macOS, яка дозволяє запускати великі мовні моделі ШІ прямо на вашому комп’ютері без підключення до хмари. Вона пропонує інтерфейс у стилі чат-додатка, де можна легко обирати моделі, задавати запити й отримувати відповіді — все локально, без передачі даних на зовнішні сервери.

Програма адаптована під екосистему macOS, тому виглядає природно в середовищі операційної системи Apple. Завдяки автоматичному завантаженню моделей при їх виборі, швидкому перемиканню між ними та історії чатів, робота з локальним ШІ стає інтуїтивно зрозумілою навіть для початківців. Окрім цього, налаштування дозволяють обрати місце збереження моделей, задати довжину контексту, підключити акаунт Ollama і дозволити інтеграцію з іншими програмами.

Ollama — це ідеальний вибір для користувачів Mac, які хочуть мати повний контроль над штучним інтелектом без потреби в інтернеті чи сторонніх сервісах. Висока продуктивність, адаптований інтерфейс та гнучкі можливості роблять цей додаток надійним інструментом для роботи з LLM.

Можливості Ollama для macOS

• Запуск LLM без інтернету
• Інтуїтивний чат-інтерфейс
• Автоматичне завантаження моделей
• Перемикання між кількома моделями
• Історія запитів
• Налаштування довжини контексту
• Можливість інтеграції з іншими програмами
• Безкоштовне використання

Зміни в останній версії

• Покращена сумісність та продуктивність за допомогою llama.cpp.
• Покращено двигун MLX на Apple Silicon.
• Підтримка більшого діапазону моделей, включаючи моделі на основі GGUF від Hugging Face.
• Підтримка донавчених моделей.
• Швидша продуктивність на обладнанні NVIDIA.
• Виправлені помилки.