LoRA & QLoRA (paper)

Paper Hu et al. (Microsoft, 2021) dan Dettmers et al. (2023) yang merevolusi efisiensi fine-tuning model LLM skala besar.

1. LoRA (Low-Rank Adaptation)

Alih-alih memperbarui semua bobot matriks model $W_0 \in \mathbb{R}^{d \times k}$ yang sangat mahal, LoRA membekukan (freeze) bobot asli dan hanya melatih dekomposisi matriks ber-rank rendah:

$W = W_0 + \Delta W = W_0 + \frac{\alpha}{r} B A$ di mana $B \in \mathbb{R}^{d \times r}$ dan $A \in \mathbb{R}^{r \times k}$ dengan rank $r \ll \min(d, k)$ (misal $r=8$ atau $r=16$).

2. QLoRA (Quantized LoRA)

Melakukan kuantisasi bobot model dasar ke presisi 4-bit NormalFloat (NF4) sambil tetap melatih adapter LoRA pada presisi 16-bit. Memungkinkan fine-tuning model 70B parameter pada satu GPU komersial 24GB VRAM!