Личный ИИ в браузере – Chatty от Addy Osmani и Jakob Hoeg Mørk

В мире технологий наступила новая эра: Chatty, инновационное приложение, разработанное Addy Osmani и Jakob Hoeg Mørk, теперь позволяет пользователям взаимодействовать с большими языковыми моделями прямо в веб-браузерах. Этот проект нацелен на обеспечение конфиденциальности и безопасности, выполняя все операции на стороне клиента, что гарантирует, что личные данные пользователей не покидают их устройства.

Chatty предлагает набор функций, включая управление историей чата, поддержку новых открытых моделей ИИ, адаптивный дизайн и многое другое. Особенно интересно, что приложение работает в офлайн-режиме после первоначальной загрузки модели, что делает его удобным для использования в условиях ограниченного доступа к Интернету.

Основанный на технологии WebGPU, Chatty поддерживается в таких браузерах, как Chrome и Edge, и может быть настроен для работы в Firefox. Для эффективной работы приложения необходимо наличие GPU с достаточным объемом памяти.

Приложение доступно для ознакомления на официальном сайте.

Источник: github