Bielik 7B jest modelem generatywnym opartym na architekturze swojego starszego brata, czyli modelu Mistral-7B-v0.1, a do jego stworzenia użyto ponad 70 mld tokenów. Dokumenty źródłowe – przed tokenizacją – zostały dokładnie przeanalizowane przez dedykowany model kontroli jakości.