alperall commited on
Commit
bd6c166
·
verified ·
1 Parent(s): fc800b5

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +24 -3
app.py CHANGED
@@ -1,6 +1,27 @@
1
  import gradio as gr
 
2
 
3
- gr.load(
4
- "models/baidu/ERNIE-4.5-21B-A3B-PT",
5
- provider="novita",
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
6
  ).launch()
 
1
  import gradio as gr
2
+ import requests
3
 
4
+ # System prompt'u çek
5
+ prompt_url = "https://raw.githubusercontent.com/ALPERALL/AlpDroid/refs/heads/main/prompt.txt"
6
+ system_prompt = requests.get(prompt_url).text.strip()
7
+
8
+ # Modeli yükle
9
+ model = gr.load(
10
+ "models/baidu/ERNIE-4.5-21B-A3B-PT",
11
+ provider="novita",
12
+ )
13
+
14
+ # Mesaj gönderme fonksiyonu, sadece sistem mesajı enjekte edilir
15
+ def chat(user_input):
16
+ # Model API'si eğer system message parametresi destekliyorsa bunu kullan
17
+ # Burada örnek olarak prompt + input olarak yolluyoruz
18
+ full_prompt = f"{system_prompt}\n\nUser: {user_input}"
19
+ return model(full_prompt)
20
+
21
+ # Basit arayüz
22
+ gr.Interface(
23
+ fn=chat,
24
+ inputs=gr.Textbox(lines=2, placeholder="Mesajını yaz..."),
25
+ outputs="text",
26
+ title="AlpDroid Chat",
27
  ).launch()