Совет Насколько сложно "поднять" свой ИИ ?

[Natello]

Может казаться не серьезно, но есть идея у нас сделать что то типа свой chatGPT. Нет, не хочу изобретать велосипед, просто хочу закрытый доступ только для определенного круга. ИИ может в интернете искать данные (если надо), но чтоб ничего не сливал туда. Типа приватный модель.
Он нужен только для аналитики документов и текстов. Туда будем загружать word/exel/pdf файлы , и чтоб ИИ анализировал их и нашел не состыковки в договорах поставки.
У кого есть опыт поднятии своего ИИ моделя? можете описать процесс?

Сам спросил у chatgpt, описал, что в полне реализуемо , даже план подготовил, но хочу услышать от реального человека, кто такое реализовал.

 

[Henderson552]

Если ИИ будет ходить в Интернет, то шанс, что он туда ничего не сольет, никогда не равен нулю.
Вы же языковой моделью будете чужой пользоваться, не своей, а она работает по тем правилам, которые заложены разработчиком)

 

[dophy]

можно реализовать по API, но в любом случае, провайдер будет видеть ваши запросы

или же поднять локальную модельку, но она требует мощного железа

и всё это реализуется на питоне, хоть одним файлом

 

[BOCTOK5]

Может казаться не серьезно, но есть идея у нас сделать что то типа свой chatGPT. Нет, не хочу изобретать велосипед, просто хочу закрытый доступ только для определенного круга. ИИ может в интернете искать данные (если надо), но чтоб ничего не сливал туда. Типа приватный модель.
Он нужен только для аналитики документов и текстов. Туда будем загружать word/exel/pdf файлы , и чтоб ИИ анализировал их и нашел не состыковки в договорах поставки.
У кого есть опыт поднятии своего ИИ моделя? можете описать процесс?

Сам спросил у chatgpt, описал, что в полне реализуемо , даже план подготовил, но хочу услышать от реального человека, кто такое реализовал.

Это Вам нужно свою локальную LLM поднимать на компьютере. Погуглите, как это делать. Подойдут open source модели типа DeepSeek или QWEN. Если примитивные задачи, то Llama