Llama 3 Sohbet Modellerini Kullanma
Together.ai, Llama 3 8b sohbet ve Llama 3 70b sohbet modellerini aşağıdaki isimlerle (büyük/küçük harf duyarlı olmaksızın) desteklemektedir:
- meta-llama/Llama-3-8b-chat-hf
- meta-llama/Llama-3-70b-chat-hf
Model parametresine Llama 3 model isimlerinden birini basitçe ayarlayabilirsiniz.
response = llama(prompt, verbose=True, model="META-LLAMA/LLAMA-3-8B-CHAT-HF", add_inst=False,)
print(response)
response = llama(prompt, verbose=True, model="META-LLAMA/LLAMA-3-70B-CHAT-HF", add_inst=False,)
print(response)