GPT4All - 노트북에서도 돌아가는 설치형 AI 채팅봇

GPT4All - 노트북에서도 돌아가는 설치형 AI 채팅봇 0

페이지 정보

by 리틀캔들

View1,159 | 작성일2023.05.25 11:11

간만에 재밌는 프로젝트를 봤습니다.

GPT4All 은 그래픽카드가 없는 노트북에서도 돌아가는것을 목표로 만들어져있다고. 하더군요.

이를위해 모델사이즈가 작지만 양자화해서 계산효율을 높이고 파이썬으로 작성된 코드를 CPP로 포팅했다고 합니다.

인텔 avx 가속을 사용하고 7billion 모델을 사용함에도 GPT3 와 비슷한 성능을 낸다고 합니다.

언어모델은 LLaMA를 사용한다고 알고있습니다.

주말에 한번 설치해봐야겠네요^^ 저처럼 그래픽카드 없는 사람도 챗봇을 로컬에 설치해 쓸수있다니 매우 흥미로운 프로젝트 같습니다.

AI 게시판 목록

제목
AI 할루시네이션의 해결 실마리를 찾았다 리틀캔들 \| 24-05-24 \| 319
이거 누가 지시한 거야? #shorts / YTN 리틀캔들 \| 24-04-18 \| 322
사진, PDF → 엑셀 변환, 이제 코파일럿으로 해결하… 리틀캔들 \| 24-03-23 \| 366
"사과를 왜 준거야?" 소름 돋는 로봇의 대답 #sho… 리틀캔들 \| 24-03-20 \| 411
자신이 시험당하는것을 알아챈 최신 인공지능 리틀캔들 \| 24-03-06 \| 378
ChatGPT에서 GPT가 뭡니까? 리틀캔들 \| 23-05-29 \| 640
GPT4All - 노트북에서도 돌아가는 설치형 AI 채… 리틀캔들 \| 23-05-25 \| 1160
AI에서 말하는 노드가 무엇인가요? (인공신경망이란?) 리틀캔들 \| 23-05-23 \| 750
딥러닝은 어떻게 작동하나요 리틀캔들 \| 23-05-22 \| 847
일반인도 이해하는 딥러닝 기본원리 리틀캔들 \| 23-05-22 \| 558
그래서 인공지능이 기존과 뭐가 다른겁니까? 리틀캔들 \| 23-05-22 \| 714
인공지능이란? 인공지능의 종류 리틀캔들 \| 23-05-22 \| 981
RPG속의 마을에 25명의 AI 에이전트를 뒀을때 생긴… 리틀캔들 \| 23-04-16 \| 1360
GPT4 의 위력 리틀캔들 \| 23-03-15 \| 1288
ChatGPT: 현대 개발자들의 필수 도구 리틀캔들 \| 23-02-18 \| 1344

게시물 검색