Ana içeriğe geç

Sohbet vs. Temel Modeller

Modelden basit bir soru sorarak sohbet ve temel modellerin farklı davranışlarını göster.

### sohbet modeli
prompt = "Fransa'nın başkenti nedir?"
response = llama(prompt, verbose=True, model="togethercomputer/llama-2-7b-chat")
print(response)
### temel model
prompt = "Fransa'nın başkenti nedir?"
response = llama(prompt, verbose=True, add_inst=False, model="togethercomputer/llama-2-7b")
# add_inst False olarak ayarlandığı için komut içerisinde [INST] ve [/INST] etiketleri bulunmaz.
print(response)