GPT4All - 노트북에서도 돌아가는 설치형 AI 채팅봇

0

페이지 정보

by리틀캔들

View 637 | 작성일2023.05.25 11:11

간만에 재밌는 프로젝트를 봤습니다.

GPT4All 은 그래픽카드가 없는 노트북에서도 돌아가는것을 목표로 만들어져있다고. 하더군요.

이를위해 모델사이즈가 작지만 양자화해서 계산효율을 높이고 파이썬으로 작성된 코드를 CPP로 포팅했다고 합니다.

인텔 avx 가속을 사용하고 7billion 모델을 사용함에도 GPT3 와 비슷한 성능을 낸다고 합니다.

언어모델은 LLaMA를 사용한다고 알고있습니다.

주말에 한번 설치해봐야겠네요^^ 저처럼 그래픽카드 없는 사람도 챗봇을 로컬에 설치해 쓸수있다니 매우 흥미로운 프로젝트 같습니다.

AI 게시판 목록

제목
이거 누가 지시한 거야? #shorts / YTN 리틀캔들 \| 24-04-18 \| 12
사진, PDF → 엑셀 변환, 이제 코파일럿으로 해결하세요 #코파일럿 #직장인꿀팁 리틀캔들 \| 24-03-23 \| 40
"사과를 왜 준거야?" 소름 돋는 로봇의 대답 #shorts 리틀캔들 \| 24-03-20 \| 51
자신이 시험당하는것을 알아챈 최신 인공지능 리틀캔들 \| 24-03-06 \| 49
ChatGPT에서 GPT가 뭡니까? 리틀캔들 \| 23-05-29 \| 327
GPT4All - 노트북에서도 돌아가는 설치형 AI 채팅봇 리틀캔들 \| 23-05-25 \| 638
AI에서 말하는 노드가 무엇인가요? (인공신경망이란?) 리틀캔들 \| 23-05-23 \| 426
딥러닝은 어떻게 작동하나요 리틀캔들 \| 23-05-22 \| 457
일반인도 이해하는 딥러닝 기본원리 리틀캔들 \| 23-05-22 \| 257
그래서 인공지능이 기존과 뭐가 다른겁니까? 리틀캔들 \| 23-05-22 \| 406
인공지능이란? 인공지능의 종류 리틀캔들 \| 23-05-22 \| 459
RPG속의 마을에 25명의 AI 에이전트를 뒀을때 생긴 놀라운 일 리틀캔들 \| 23-04-16 \| 911
GPT4 의 위력 리틀캔들 \| 23-03-15 \| 922
ChatGPT: 현대 개발자들의 필수 도구 리틀캔들 \| 23-02-18 \| 956

게시물 검색