rag.py 9.2 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283
  1. """Step 7: RAG 投资知识库 — 文档分块 + TF-IDF 检索"""
  2. import os
  3. import re
  4. import json
  5. import math
  6. from collections import Counter
  7. from typing import List, Dict, Tuple
  8. class InvestmentKnowledgeBase:
  9. """轻量投资知识库 — 无需外部嵌入 API,TF-IDF 检索"""
  10. def __init__(self, path: str = "memory/knowledge_base.json"):
  11. self.path = path
  12. self.chunks: List[Dict] = []
  13. self._load()
  14. def _load(self):
  15. if os.path.exists(self.path):
  16. try:
  17. with open(self.path, "r", encoding="utf-8") as f:
  18. self.chunks = json.load(f)
  19. except (json.JSONDecodeError, IOError):
  20. self.chunks = []
  21. def _save(self):
  22. os.makedirs(os.path.dirname(self.path), exist_ok=True)
  23. with open(self.path, "w", encoding="utf-8") as f:
  24. json.dump(self.chunks, f, ensure_ascii=False, indent=2)
  25. # ===== 文档导入 =====
  26. def add_text(self, text: str, title: str = "", source: str = "") -> str:
  27. """导入文本,自动分块"""
  28. chunks = self._chunk_text(text, title, source)
  29. self.chunks.extend(chunks)
  30. self._save()
  31. return f"已导入 '{title}',共 {len(chunks)} 个知识块 (总计 {len(self.chunks)} 块)"
  32. def add_file(self, filepath: str) -> str:
  33. """导入文件 (支持 .txt .md)"""
  34. if not os.path.exists(filepath):
  35. return f"文件不存在: {filepath}"
  36. try:
  37. with open(filepath, "r", encoding="utf-8") as f:
  38. text = f.read()
  39. except Exception as e:
  40. return f"读取文件失败: {e}"
  41. title = os.path.basename(filepath)
  42. return self.add_text(text, title, filepath)
  43. def _chunk_text(self, text: str, title: str, source: str,
  44. chunk_size: int = 300, overlap: int = 50) -> List[Dict]:
  45. """按段落+句子边界智能分块"""
  46. # 先按段落分割
  47. paragraphs = re.split(r"\n\s*\n", text)
  48. chunks = []
  49. current = ""
  50. for para in paragraphs:
  51. para = para.strip()
  52. if not para:
  53. continue
  54. if len(current) + len(para) < chunk_size:
  55. current += ("\n" if current else "") + para
  56. else:
  57. if current:
  58. chunks.append(current)
  59. # 如果段落太长,按句子分
  60. if len(para) > chunk_size:
  61. sentences = re.split(r"(?<=[。!?\.!?])\s*", para)
  62. sub = ""
  63. for s in sentences:
  64. if len(sub) + len(s) < chunk_size:
  65. sub += s
  66. else:
  67. if sub:
  68. chunks.append(sub)
  69. sub = s
  70. if sub:
  71. current = sub
  72. else:
  73. current = ""
  74. else:
  75. current = para
  76. if current:
  77. chunks.append(current)
  78. return [{
  79. "id": f"{title}_{i}",
  80. "title": title,
  81. "source": source,
  82. "content": c,
  83. } for i, c in enumerate(chunks)]
  84. # ===== 检索 =====
  85. def search(self, query: str, top_k: int = 5) -> str:
  86. """TF-IDF 检索最相关的知识块"""
  87. if not self.chunks:
  88. return "知识库为空。可以用 '导入知识 文件路径' 来添加文档。"
  89. # 构建词汇表
  90. all_docs = [c["content"] for c in self.chunks]
  91. tokenized_docs = [self._tokenize(d) for d in all_docs]
  92. tokenized_query = self._tokenize(query)
  93. # TF-IDF 计算
  94. df = Counter()
  95. for tokens in tokenized_docs:
  96. df.update(set(tokens))
  97. N = len(tokenized_docs)
  98. scores = []
  99. for i, doc_tokens in enumerate(tokenized_docs):
  100. tf = Counter(doc_tokens)
  101. score = 0
  102. for term in set(tokenized_query):
  103. if term in tf:
  104. tf_val = tf[term] / max(len(doc_tokens), 1)
  105. idf_val = math.log((N + 1) / (df[term] + 1)) + 1
  106. score += tf_val * idf_val
  107. if score > 0:
  108. scores.append((score, i))
  109. scores.sort(key=lambda x: x[0], reverse=True)
  110. if not scores:
  111. # 回退到关键词匹配
  112. for i, (doc, doc_tokens) in enumerate(zip(all_docs, tokenized_docs)):
  113. if any(kw in doc_tokens for kw in tokenized_query):
  114. scores.append((0.5, i))
  115. scores.sort(key=lambda x: x[0], reverse=True)
  116. if not scores:
  117. return f"未找到与 '{query}' 相关的知识"
  118. lines = [f"知识库检索结果 (查询: '{query}'):"]
  119. for score, idx in scores[:top_k]:
  120. chunk = self.chunks[idx]
  121. lines.append(f"\n--- [{score:.2f}] {chunk['title']} ---")
  122. lines.append(chunk["content"][:400])
  123. return "\n".join(lines)
  124. def _tokenize(self, text: str) -> List[str]:
  125. """简单中文分词 (2-gram)"""
  126. # 提取中文字符和英文单词
  127. words = re.findall(r"[一-鿿]{1,2}|[a-zA-Z]+", text.lower())
  128. return [w for w in words if len(w) >= 2]
  129. def stats(self) -> str:
  130. titles = set(c["title"] for c in self.chunks)
  131. return (f"知识库: {len(self.chunks)} 个知识块, "
  132. f"{len(titles)} 篇文档")
  133. def clear(self) -> str:
  134. self.chunks = []
  135. self._save()
  136. return "知识库已清空"
  137. # ===== 预置投资知识 =====
  138. INVESTMENT_KNOWLEDGE = """
  139. # 股票估值方法
  140. ## 市盈率 (PE)
  141. PE = 股价 / 每股收益。反映市场愿意为每元利润支付的价格。
  142. - PE < 10: 可能低估(需排除盈利质量差的情况)
  143. - PE 10-20: 合理区间
  144. - PE 20-30: 中等偏高,通常对应成长股
  145. - PE > 30: 高估值,需有高增长支撑
  146. 行业差异大:银行 PE 通常 5-10 倍,科技股 PE 可达 30-50 倍。
  147. ## 市净率 (PB)
  148. PB = 股价 / 每股净资产。适用于重资产行业(银行、地产、制造业)。
  149. - PB < 1: 破净,可能严重低估
  150. - PB 1-2: 合理偏低
  151. - PB 2-5: 正常水平
  152. - PB > 5: 偏高,需有高 ROE 支撑
  153. ## PEG 指标
  154. PEG = PE / 净利润增长率(%)。用于成长股估值。
  155. - PEG < 0.5: 显著低估
  156. - PEG 0.5-1.0: 合理偏低
  157. - PEG 1.0-1.5: 合理
  158. - PEG > 2.0: 高估
  159. ## 股息率
  160. 股息率 = 每股分红 / 股价。衡量现金回报。
  161. - 股息率 > 4%: 高股息,防御性强
  162. - 股息率 2-4%: 正常水平
  163. - 股息率 < 2%: 偏低
  164. # 技术指标解读
  165. ## MACD 金叉死叉
  166. - 金叉: DIF 上穿 DEA,买入信号。零轴上方金叉更强。
  167. - 死叉: DIF 下穿 DEA,卖出信号。零轴下方死叉更弱。
  168. - 顶背离: 股价新高 MACD 未新高,见顶信号。
  169. - 底背离: 股价新低 MACD 未新低,见底信号。
  170. ## RSI 相对强弱指标
  171. - RSI > 80: 严重超买,回调风险大
  172. - RSI 70-80: 超买区域,短期可能回调
  173. - RSI 30-70: 正常区间
  174. - RSI 20-30: 超卖区域,短期可能反弹
  175. - RSI < 20: 严重超卖,反弹概率高
  176. ## 均线系统
  177. - 多头排列: MA5 > MA10 > MA20 > MA60,上升趋势
  178. - 空头排列: MA5 < MA10 < MA20 < MA60,下降趋势
  179. - 金叉: 短期均线上穿长期均线
  180. - 死叉: 短期均线下穿长期均线
  181. ## 布林带
  182. - 价格触及上轨: 短期超买,可能回调
  183. - 价格触及下轨: 短期超卖,可能反弹
  184. - 带宽收窄: 变盘信号,可能突破
  185. - 带宽扩大: 趋势加速
  186. # 风险控制原则
  187. ## 仓位管理
  188. - 单只股票不超过总仓位 20%
  189. - 单一行业不超过总仓位 30%
  190. - 永远保留 10-20% 现金应对极端情况
  191. - 分批建仓: 至少分 3 次买入,降低成本集中风险
  192. ## 止损原则
  193. - 技术止损: 跌破关键支撑位(MA60/前低)止损
  194. - 比例止损: 亏损超过 8-10% 无条件止损
  195. - 时间止损: 买入后 20 个交易日未达预期,重新评估
  196. - 基本面止损: 公司基本面出现重大恶化,立即止损
  197. ## 风险收益比
  198. - 每笔交易的风险收益比应 >= 1:2
  199. - 预期收益应至少是潜在亏损的 2 倍
  200. # A股交易规则
  201. ## 交易时间
  202. - 早盘集合竞价: 9:15-9:25
  203. - 连续竞价: 9:30-11:30, 13:00-15:00
  204. - 深交所尾盘集合竞价: 14:57-15:00
  205. ## 涨跌幅限制
  206. - 主板: ±10%
  207. - 创业板(300开头)/科创板(688开头): ±20%
  208. - ST 股票: ±5%
  209. - 新股上市前 5 日无涨跌幅限制
  210. ## T+1 制度
  211. A股实行 T+1 交易,当日买入次日才能卖出。
  212. """
  213. # 全局单例
  214. _kb_instance = None
  215. def get_kb() -> InvestmentKnowledgeBase:
  216. global _kb_instance
  217. if _kb_instance is None:
  218. _kb_instance = InvestmentKnowledgeBase()
  219. # 首次初始化时导入预置知识
  220. if not _kb_instance.chunks:
  221. _kb_instance.add_text(INVESTMENT_KNOWLEDGE, "投资基础知识", "built-in")
  222. return _kb_instance
  223. # ===== 工具函数 =====
  224. def rag_search(query: str) -> str:
  225. """搜索投资知识库。输入: 查询关键词或问题"""
  226. return get_kb().search(query.strip())
  227. def rag_import(query: str) -> str:
  228. """导入文档到知识库。输入: 文件路径"""
  229. return get_kb().add_file(query.strip())
  230. def rag_stats(query: str = "") -> str:
  231. """查看知识库统计"""
  232. return get_kb().stats()