На huggingface множество нейросетей, способных работать в оффлайне. Практика показала, что нейросети, способные запустится на обычном домашнем ПК, тупы, как небезызвестная бесполезногиня из небезызвестного аниме, и выдают лютейшую дичь. Более-менее умные нейронки (от 70 млрд параметров) либо будут отвечать со скоростью 1 слово в сутки, либо откажутся запускаться вообще. Но, быть может, некие узкоспециализированные нейронки и на относительно слабом ПК запустятся, и работать будут хорошо именно за счёт своей узкой специализации? Нужно мне примерно следующее: я ввожу предложение на японском - нейросеть его разбирает (переводы всех слов, объяснения грамматики, чтения и т.п.). Примерно так (это общение с ChatGPT):
みん連絡しなくちゃ
GPT-4o mini
Фраза みんなに連絡しなくちゃ (minna ni renraku shinakucha) переводится как "Мне нужно связаться со всеми" или "Я должен сообщить всем".
Здесь:
みんな (minna) означает "все" или "все люди".
連絡 (renraku) — "связь" или "контакт".
しなくちゃ (shinakucha) — разговорная форма, означающая "нужно сделать" или "должен сделать".
Эта фраза может использоваться, когда кто-то осознает необходимость уведомить группу людей о чем-то важном.
Также не помешали бы нейронки, хорошо знающие js, Python, командную строку Linux. А ещё интересует вопрос, как обучить скачанную модель какой-то узкопрофильной информации, необходимой мне для работы. Пока ничего найти не удалось по этой теме, только уроки из серии "как запустить chatgpt локально через lm-studio". Подскажите, в каком направлении копать хоть.
