GPT4All - 노트북에서도 돌아가는 설치형 AI 채팅봇 > AI 게시판

본문 바로가기
사이트 내 전체검색

AI 게시판

GPT4All - 노트북에서도 돌아가는 설치형 AI 채팅봇
0

페이지 정보

by리틀캔들
View 535  | 작성일2023.05.25 11:11

본문

c5dda3b5f002900fbcb2744e3ec25320_1684980552_0322.gif
 

https://gpt4all.io/index.html 


간만에 재밌는 프로젝트를 봤습니다. 

GPT4All 은 그래픽카드가 없는 노트북에서도 돌아가는것을 목표로 만들어져있다고. 하더군요.


이를위해 모델사이즈가 작지만 양자화해서 계산효율을 높이고 파이썬으로 작성된 코드를 CPP로 포팅했다고 합니다.

인텔 avx 가속을 사용하고 7billion 모델을 사용함에도 GPT3 와 비슷한 성능을 낸다고 합니다. 


언어모델은 LLaMA를 사용한다고 알고있습니다.

주말에 한번 설치해봐야겠네요^^ 저처럼 그래픽카드 없는 사람도 챗봇을 로컬에 설치해 쓸수있다니 매우 흥미로운 프로젝트 같습니다.

댓글목록

등록된 댓글이 없습니다.

AI 게시판 목록

by 리틀캔들
2023.05.29 | 282 view 인기글
by 리틀캔들
2023.05.22 | 394 view 인기글관련링크
by 리틀캔들
2023.05.22 | 214 view 인기글
by 리틀캔들
2023.05.22 | 396 view 인기글
by 리틀캔들
2023.03.15 | 872 view 인기글
by 리틀캔들
2023.02.18 | 910 view 인기글
게시물 검색

접속자집계

오늘
506
어제
529
최대
5,785
전체
621,184
Copyright © LittleCandle All rights reserved.
문의메일 : littlecandle99@gmail.com
모바일 버전으로 보기