Jak zacząć pracę z Bielikiem

Repozytorium zawiera skrypty oraz notatniki, które przedstawiają różne przykłady użycia LLM Bielik.

Wymagania:

1. Python
   Aby móc pracować z kodem, zalecana jest instalacja Pythona w wersji >=3.9. Instrukcje instalacji można znaleźć na oficjalnej stronie Pythona:
   https://www.python.org/downloads/

2. Jupyter Notebook
   Zalecana jest praca w środowisku Jupyter Notebook. Instrukcje instalacji i uruchomienia Jupyter Notebook:
   https://jupyter.org/install
   Do każdego notebooka załączony jest link prowadzący do przestrzeni Google Colab zawierającej kod z danym przykładem użycia.

Rozpoczęcie pracy

1. Sklonuj repozytorium na swój lokalny komputer:
   

   git clone https://github.com/speakleash/Bielik-how-to-start.git

2. Uruchom Jupyter Notebook i otwórz wybrany notatnik z przykładami.
3. W przypadku przykładów znajdujących się osobno w folderach (draive, contract_enhancer) należy uprzednio zainstalować wymagane zależności:
   

   pip install -r requirements.txt

W przypadku problemów lub pytań, sprawdź sekcję "Issues" w repozytorium lub skontaktuj się z autorami projektu.

Examples

Info: Przykłady zawierają odniesienia do wersji V1 oraz V2. W przyszłości powinno pojawić sie więcej zaadaptowanych przykładów do najnowszej wersji Bielika

Notebook/code	Bielik version	Description
Bielik_(4_bit)_RAG.ipynb Bielik_2_(4_bit)_RAG.ipynb	V1: V2:	RAG with HuggingFace transformers
Bielik_(4_bit)_simple_examples.ipynb Bielik_2_(4_bit)_simple_examples.ipynb	V1: V2:	Work with text, docs, inference
Bielik_Streamlit_simple_app_tunnel_GGUF_Q4.ipynb	V1:	Inference with streaming using Streamlit with Bielik (GGUF Q4)
Bielik_Data_Generation_and_Fewshot_Prompting_(4_bit).ipynb	V1:	Data Generation, Few-shot prompting
Bielik_Ollama_integration.ipynb Bielik_2_Ollama_integration.ipynb	V1: V2:	Ollama CLI/API tutorial
Bielik_Streamlit_simple_app_tunnel_4bit.ipynb	V1:	Inference with streaming using Streamlit with Bielik 4bit
Bielik_Instruct_QUANT_Tests.ipynb	V1:	Experiment with various types of model quantization
Bielik_2_(4_bit)_JSON.ipynb.ipynb	V2:	extracion & JSON structurization
Bielik_2_(4_bit)_sentiment_analysis.ipynb	V2:	Sentiment analysis of and article or comment
Bielik_(4_bit)_Text_Improvement.ipynb	V2:	Text improvement
Bielik_2_(AWQ)_structured_output.ipynb	V2:	Structured output using vLLM and Outlines
draive	V2:	Inference using draive lib
contract_enhancer	V2:	RAG for contract enhancement