CC读书 通过搜索各大小说站为您自动抓取各类小说的最快更新供您阅读!

用故事解释Softmax函数

故事背景:选举村的村长选举

在一个叫“选举村”的地方,每四年一次,村民们都要选出一位新村长。这次,有四位候选人:

? 阿强(擅长务农,村民对他比较熟悉)

? 小美(善于管理,做过村委会秘书)

? 老李(年纪较大,经验丰富,但村民对他评价不一)

? 张三(刚来村子不久,大家对他了解不多)

选举日,村民们需要根据他们的支持度,选择一个人投票。但村民的支持度并不是“非黑即白”的,每个人对每位候选人的好感度都不同。为了更公平地衡量大家的意愿,村子里的智者发明了一种方法,叫 Softmax 规则。

Softmax 的运作方式

智者让每个村民给四位候选人打分,比如某个村民的打分是:

? 阿强:8分

? 小美:6分

? 老李:5分

? 张三:3分

但是,这些分数只是相对的,我们需要转换成“概率”来反映这个村民的最终选择倾向。Softmax 规则的做法是:

1. 先用指数函数(e的指数)放大分数,避免负分影响决策:

2. 计算这些指数值的总和:

3. 再计算每个候选人的支持度占比:

这样,每个人最终的选择概率就会落在 到 之间,并且所有候选人的概率加起来是 (保证了最终一定会选出一位村长)。

比喻解释:冰淇淋店的选择

假设你走进了一家冰淇淋店,店里有四种口味:

? 巧克力(你最爱)

? 香草(你觉得还行)

? 草莓(一般般)

? 抹茶(你不太喜欢)

如果你只是随意选,你可能会纠结,但Softmax 规则就像是在你的大脑里装了一个“选择助理”,它根据你对每个口味的喜爱程度(打分),帮你转换成最终的选择概率。例如:

? 你对巧克力的喜爱度是9分,香草7分,草莓5分,抹茶2分。

? Softmax 把这些分数转化成指数值,然后归一化成概率:

结果就是,你有最高的概率选择巧克力,较低的概率选择香草,几乎不会选抹茶。

总结

Softmax 函数的本质是:

1. 将原始分数(打分)转换成概率,使得总和为 1。

2. 指数放大优势,让分数高的选项更有可能被选中。

3. 让所有选项都有可能被选中(即使得分最低的选项概率也不会完全是0)。

无论是在选举、推荐系统还是AI分类任务中,Softmax 都像一个“理性的选择助手”,帮我们做出合理的决策。

多层分类的中间层会有偏置和中间结果

用故事解释“偏置”和“中间结果”

故事背景:魔法师的学徒

在一个魔法学院里,有一位年轻的学徒——小艾。他正在学习如何用魔法配制“完美药水”。

学院的导师告诉他:“要配出理想的药水,你需要三个关键步骤:”

1. 收集原料(输入数据)

2. 研磨并混合(计算中间结果)

3. 调整口味(加上偏置)

小艾开始尝试:

? 他拿了 龙眼果(原料1),月光花(原料2),银露水(原料3),这些原料各自有不同的药效分数。

? 他按照导师给的魔法公式进行计算,把这些原料的效果 加权(类似于机器学习中的“权重”)得到一个中间结果。

? 但是,每次配出来的药水,总觉得有点偏酸或者偏苦,于是导师告诉他:“要加上一点魔法糖!”

这 魔法糖 就是 偏置(bias)!

导师解释道:“有时候,光靠原料混合出来的效果可能会偏离目标,比如太苦了,我们就需要手动加点甜味,这样最终的药水才是完美的。”

小艾恍然大悟,他在最后的配方中加入了一点 魔法糖(偏置),最终成功调配出一款 恰到好处的药水(输出结果)。

用比喻解释“偏置”和“中间结果”

比喻1:做菜

想象你正在做一锅汤,你的过程是这样的:

1. 你放了鸡肉、蔬菜和调料(输入数据)。

2. 你用锅把这些食材煮成高汤(计算中间结果)。

3. 但你尝了一口,觉得味道有点淡,于是加了一点盐(偏置)。

这最后加的盐就是“偏置”,它的作用是让最终的味道更符合你的期待,而不是完全取决于原料本身的味道。

比喻2:考试成绩调整

假设一群学生参加了数学考试,老师发现:

? 有些学生因为压力太大,考试成绩偏低。

? 有些题目出得特别难,导致整体分数偏低。

为了更公平地评估学生的能力,老师在所有人的成绩上额外加了5分。

这个“额外加的5分”就是 偏置(bias)!它的作用是:

? 让整个评分系统更加合理。

? 弥补一些系统性误差,比如有的考试本身比别的考试更难。

而学生的原始分数就是 中间结果,它是由他们答题的情况决定的,但最终的成绩还要经过调整(加偏置)才能成为最终分数。

总结

? 中间结果 就是计算过程中的“半成品”,就像汤还没加盐,药水还没加糖,考试还没加调分。

? 偏置(bias) 就是最后人为加上的“调整项”,它的作用是让最终结果更合理、更符合目标。

就像魔法师加糖、厨师加盐、老师调分一样,神经网络在计算时也会用“偏置”来微调输出结果,使它更加精准。

CC读书推荐阅读:医笑倾城踏星陆隐极品家丁弃妃,你又被翻牌了!韩娱之灿冷冰冰的战神王爷堵门求我疼疼他女帝的现代生活喝醉后,女神让我忘了她人到中年,觉醒每日结算系统傲世玄医暴徒出狱重生:大帝归来炼神丹!御神兽!废材大小姐竟是绝世帝女玩家超正义隐主龙玉冰冷总裁未婚妻重生的李峰青梅有点酸,竹马你别闹超强打工仔我的六个姐姐,由我来守护!极品仙尊之高高在下豪门重生之撩夫上瘾有妖气客栈天亮了,就不需要灯塔了都市修仙从摆摊开始太初灵境尊龙出狱送王船重生60:我靠打猎让全家致富我的宝藏男神藏不住了古镇奇谭从认购证开始在欧美区扬名变成女生后兄弟也跟风了陆太太复婚吧诸界碰撞,我杀出归墟芈月传(蒋胜男)亿万契约:杠上钻石老公我的冷艳娇妻谍战:我能用不同的身份搞暗杀重生之重启2004京城异能王亿万首席,前妻不复婚重生1990之改写人生农女医妃富甲天下那位杀手不太冷模拟:身为无上巨头,托起人族高武世界:开局觉醒天人合一高武:家父五虎将,掠夺鸿蒙体!画堂归别回去了,送你一杯温热的豆浆
CC读书搜藏榜:海贼王之最强冰龙皇上非要为我废除六宫邢先生的冷面女友战国混沌剑神的猴子猴孙们独享一吻成灾:帝少的77次锁情诸神来犯,我在现代重演神话神级狂医在花都都市之最强战神奶爸逍遥修真少年空间之归园田居重生之妃王莫属女导演的爱情电影重生后,我在都市杀疯了重生,我就是回来当厨神的湛少的替婚新妻韩娱之魔女孝渊迷彩红妆公主爱妻你别跑两界真武暗影谍云偏执首席放过我爱如星辰情似海百万调音师:我只好亲自上台了!祸害娱乐圈,你说自己是正经人?都市之邪皇狂少这个傀儡师有点那啥重生娱乐圈之女王至上乡村疯子致富路墨守陈规狂龙下山退休后她只想在娱乐圈养老重生九零恶婆婆商女谋夫回2001陪你长大我在梦里逐步成神变成女孩子,将高冷千金养成病娇亲情凉薄我转身自立门户我的世界,又要毁灭了重生后休了王爷重回1976,下乡当知青御膳房的小娘子重回七七种田养娃霞光升起金牌宠妃(系统)绯闻男神:首席诱妻成瘾我是导演,却拿着演员的技能我的师傅慢半拍邪医修罗:狂妃戏魔帝异世倾心
CC读书最新小说:我,仙帝身份被大学校花曝光了年代,世家少爷自逍遥重回黄金年代灵泉养鱼,钓鱼佬疯了吃货也疯了美女村官醉酒试探,我将计就计杀手重生从六零年开始人王宋晓辉:游戏人间无敌纨绔丹帝灵气复苏我是警察我要打击犯罪胜者即是正义,分奴圣骑怎么你了都市冥帝:玄针逆乾坤都市阳神:从国术入道开始全民觉醒,只有我觉醒了嘴炮抵债娇夫,总裁姐姐撩疯了开局四个挂,你让我避他锋芒?修真万年之我的傻婿人生异能觉醒:从学渣开始逆袭我的中医生涯之路幕后:改造人类文明神豪:少爷的快乐,你想象不到神笔新艳我的青春恋爱绝不可能扭曲且胃酸逆天妖孽龙门战神赘婿全球美女我想要就要丁宇升官记幕后:从扮演云骑军开始灵异复苏内衣厂里的假夫妻重生中考:我竟成了修真者金山碎光杂集四合院:我的秘密藏不住了现代桃源记寰宇巨企:我来建立星际和平公司正义不会迟到,因为老子就是正义陪着蓝星成长杀机重重,以血还血七罪赎命无限穿越的长生者赤帜寰宇:复兴之战鬼帝在都市1935赤血天灾,从老区到抗战乡野神医快活无敌潮涌苍茫代驾小哥横推豪门局最强女保镖小不点人生亮剑:旅长,求求你别打劫了!离开山区?不,我要留下来重生75开局喂饱九个女知青重生79年打猎供妹妹上学