Consistency Large Language Models: Efficient Parallel Decoders and 3.4 X Faster ( from Maryam Miradi, PhD) Researchers from University of California comes with a revolutionary method for LLMs, CLL...

Generative AI Preparation (Generative AI 개념북) Thanks to Aishwarya Naresh Reganti What’s New? (from JAE-HONG EOM) 생성 AI 전반의 바탕이 되는 기술들과 이들이 어떻게 연관되어 있는지 이해하는 것은 당장 LLM을 하나 집어다 튜닝하고 RAG를 붙여 ...

[MacOS / AppleSilicon] VSCODE C++ 설정 환경 설정 개발환경 세팅 AppleSilicon Reference https://polarcompass.tistory.com/12 VSCODE 다운로드 - mac OS 환경 및 M1/M2/M3 이라면 Apple Silicon 버전 다운로드. ...

HongLab 알고리듬 압축코스 - 강의소개 Codes : https://github.com/akillness/Algorithm_Honglab 알고리듬 배우는 이유? 취업 ‘코딩인터뷰 -> 코딩테스트’ 로 변형된 개념, 때문에 사람이 문제를 어떤 방식으로 접근하고 풀어나가는지에 대한 가능성을 보는 ‘인터뷰’ ...

What’s New? ( from Google AI) We’re excited to release the weights of our Time Series Foundation Model (TimesFM) on Hugging Face! To access, visit our HuggingFace https://huggingface.co/google/ti...

Introducing Phi-3 WebGPU, a private and powerful AI chatbot that runs locally in your browser, powered by 🤗 Transformers.js and onnxruntime-web! 🔒 On-device inference: no data sent to a server ...

LLM Lingo: Must-Know Terms ( Created By: Aishwarya Naresh Reganti ) Part 1 : Baseline LLM Lingo Type Description   Foundation Model LLM des...

LLM(Large Language Model) 공부하기 계획부터 실제 코드까지 작성하는 포스트를 작성한다. 당근에서 LLM 사용하기 내용을 통해 LLM의 잘하는 일을 알아보고, LLM을 활용한 사례를 분석해보자. LLM이 잘하는 일 LLM은 수많은 텍스트 데이터를 학습해서 세상에 대한 지식, 언어 이해 능력 그리고 뛰어난 추론 능력을 갖추고 있어...

🧐 LLM Quantization - GPTQ | QAT | AWQ | GGUF | GGML | PTQ ( Created By Abonia Sojasingarayar) 🚩 GPTQ Accurate Post-Training Quantization for Generative Pre-trained Transformers compresses LLMs by...

LLM Finetuning 🎊 If you’re new to fine-tuning LLMs and prefer a GUI based or low-code approach, LlaMA-Factory is one of the best open-source tools out there! I’ve been trying out different op...