Dongxi 东锡 NLP· @dongxi_nlp · X·· 4 小时前AI 评分53
AI 导读
作者用向 LLM 问一百次煮鸡蛋时间得到的回答概率分布为例,把 KL 散度拆成比值、取 log、按新模型回答频率加权平均三步,算出一次小变化对应的 KL 为 0.047 nat。
正文
来源:Dongxi 东锡 NLP · x.com
作者用向 LLM 问一百次煮鸡蛋时间得到的回答概率分布为例,把 KL 散度拆成比值、取 log、按新模型回答频率加权平均三步,算出一次小变化对应的 KL 为 0.047 nat。
来源:Dongxi 东锡 NLP · x.com