blob: 5cf61fa8a6ce5a47bfff8be85c45d46cff8b7cb3 (
plain)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
|
{ unit for calling LLM client with separate thread}
unit chat_client_thread;
{$mode ObjFPC}{$H+}
interface
uses
Classes, SysUtils, Process, StdCtrls;
type
{ TChatClientThread }
TChatClientThread = class(TThread)
private
{ process of LLM client }
FChatClient: TProcess;
{ exit code of process }
FExitCode: Integer;
{ error message if exit code not 0 }
FErrorMsg: string;
{ name of file for saving responce from LLM }
FResponseFile: string;
{ working dir for LLM client }
FWorkingDir : string;
{ client type of LM client script }
FClientType : Integer;
{ ui component to update GUI in synchronization }
mmChatResponce : TMemo;
protected
{ code for launching LLM client process }
procedure Execute; override;
{ code for updating GUI to show responce }
procedure UpdateGUI;
public
constructor Create(var mmChat : TMemo; workingDir : String; clientType : Integer);
destructor Destroy; override;
end;
implementation
{ TChatClientThread }
procedure TChatClientThread.Execute;
const DefaultLLM = -1;
const OllamaLLM = 0;
const LmStudioLLM = 1;
const OpenRouterAiLLM = 2;
begin
FChatClient := TProcess.Create(nil);
try
// Назначаем путь к исполняемому
FChatClient.Executable := '/usr/bin/python';
// Добавляем имя скрипта клиента Python
case FClientType of
DefaultLLM, OllamaLLM : FChatClient.Parameters.Add('client.py');
LmStudioLLM : FChatClient.Parameters.Add('client-lmstudio.py');
OpenRouterAiLLM : FChatClient.Parameters.Add('client-openrouter.py');
end;
// Устанавливаем текущий каталог для процесса согласно рабочего каталога программы
FChatClient.CurrentDirectory := FWorkingDir;
// Добавляем опции для асинхронного запуска
FChatClient.Options := FChatClient.Options + [poWaitOnExit]; // Дождаться завершения процесса
FChatClient.Execute; // Выполняем процесс клиента
// Получаем код завершения клиента
FExitCode := FChatClient.ExitCode;
if FExitCode <> 0 then
begin
// Если ненулевой, добавляем сообщение об ошибке
FErrorMsg := 'Error executing client.py';
end
else
begin
// Если без ошибок - забираем ответ из выходного файла
FResponseFile := 'resp.txt';
end;
except
on E: Exception do
begin
FErrorMsg := E.Message;
end;
end;
// Обновляем GUI в основном потоке
Synchronize(@UpdateGUI);
end;
procedure TChatClientThread.UpdateGUI;
begin
if FErrorMsg <> '' then
begin
// Показываем сообщение об ошибке
mmChatResponce.Lines.Add(FErrorMsg);
end
else if FResponseFile <> '' then
begin
// Загружаем ответ из файла
mmChatResponce.Lines.LoadFromFile(FResponseFile);
end;
end;
constructor TChatClientThread.Create(var mmChat: TMemo; workingDir : String; clientType: Integer);
begin
inherited Create(False); // Создаем и сразу запускаем поток
FreeOnTerminate := True; // Поток автоматически уничтожится после выполнения
FResponseFile := 'resp.txt';
mmChatResponce := mmChat;
FWorkingDir := workingDir;
FClientType := clientType;
end;
destructor TChatClientThread.Destroy;
begin
mmChatResponce := nil;
FChatClient.Free;
inherited Destroy;
end;
end.
|