add ai_initiatives

2025-06-12 19:39:57 +03:00
parent 8ade320440
commit 09174abaa4
3 changed files with 167 additions and 0 deletions
--- a/server/routers/kfu-m-24-1/sber_mobile/initiatives-ai-agents/moderation.ts
+++ b/server/routers/kfu-m-24-1/sber_mobile/initiatives-ai-agents/moderation.ts
@@ -0,0 +1,57 @@
+import { Agent } from 'node:https';
+import { GigaChat } from "langchain-gigachat";
+import { z } from "zod";
+
+const httpsAgent = new Agent({
+    rejectUnauthorized: false,
+});
+
+const llm = new GigaChat({
+    credentials: process.env.GIGA_AUTH,
+    temperature: 0.2,
+    model: 'GigaChat-2',
+    httpsAgent,
+});
+
+// возвращаю комментарий + исправленное предложение + булево значение
+const moderationLlm = llm.withStructuredOutput(z.object({
+    comment: z.string(),
+    fixedText: z.string().optional(),
+    isApproved: z.boolean(),
+}) as any)
+
+export const moderationText = async (title: string, body: string): Promise<[string, string | undefined, boolean]> => {
+    const prompt = `
+      Представь, что ты модерируешь предложения от жильцов многоквартирного дома (это личная инициатива по улучшения, 
+      не имеющая отношения к Управляющей компании).
+
+      Заголовок: ${title}
+      Основной текст: ${body}
+
+      Твои задачи:
+      1. Проверь предложение и заголовок на спам.
+      2. Проверь, чтобы заголовок и текст были на одну тему.
+      3. Проверь само предложение пользователя на отсутствие грубой лексики и пошлостей.
+      4. Проверь грамматику.
+      5. Проверь на бессмысленность предложения. Оно не должно содержать только случайные символы. 
+      6. Не должно быть рекламы, ссылок и т.д.
+      7. Проверь предложение на информативность, оно не должно быть слишком коротким. 
+      8. Предложение должно быть в вежливой форме.
+
+      - Если все правила соблюдены, то предложение принимается!
+
+      Правила написания комментария:
+      - Если предложение отклоняется, верни комментарий со следующей формулировкой:
+        "Предложение отклонено. Причина: (укажи проблему)"
+      Правила написания fixedBody:
+      - Если предложение отклонено, то верни в поле "fixedBody" новый текст, который будет соответствовать правилам.
+      - Если предложение отклонено и содержит запрещённый контент (рекламу, личные данные), удали всю информацию, 
+      которая противоречит правилам, и верни в только подходящий фрагмент, сохраняя общий смысл.
+      - Если текст не представляет никакой ценности, возврати в поле "fixedBody" правило, 
+      по которому оно не прошло.
+      -Если предложение принимается, то ничего не возвращай в поле fixedBody.
+    `
+    const result = await moderationLlm.invoke(prompt);
+  
+    return [result.comment, result.fixedText, result.isApproved];
+};