百面读书笔记七

　　第7章 　优化算法
　　机器学习算法 = 模型表征 + 模型评估 + 优化算法
　　优化算法所做的事情就是在模型表征空间中找到模型评估指标最好的模型。不同的优化算法对应的模型表征和评估指标不尽相同，比如经典的支持向量机对应的模型表征和评估指标分别为线性分类模型和最大间隔，逻辑回归对应的模型表征和评估指标则分别为线性分类模型和交叉熵。
　　7.1 有监督学习涉及的损失函数有哪些？请列举并简述它们的特点。
　　1、二分类问题：
　　A、0-1损失：
　　B、Hinge损失函数：0-1损失的代理损失函数
　　C、Logistic损失函数：0-1损失的代理损失函数
　　D、交叉熵（Cross Entropy）损失函数：0-1损失的代理损失函数
　　2、回归问题：
　　A、平方损失函数：
　　B、绝对损失函数：
　　C、Huber损失函数：可导性和对异常点的鲁棒性
　　7.2 机器学习中的优化问题，哪些是凸优化问题，哪些是非凸优化问题？请各举一个例子。
　　凸优化问题的例子包括支持向量机、线性回归等线性模型，
　　非凸优化问题的例子包括低秩模型（如矩阵分解）、深度神经网络模型等。
　　凸函数：严格定义为，函数L(·)是凸函数当且仅当对定义域中的任意两点x，y和任意实数λ∈[0,1]总有
　　7.3 无约束优化问题的优化方法有哪些？
　　优化算法可以分为直接法和迭代法两大类。
　　7.4 如何验证求目标函数梯度功能的正确性？
　　7.5 当训练数据量特别大时，经典的梯度下降法存在什么问题，需要做如何改进？
　　7.6 随机梯度下降法失效的原因 —— 摸着石头下山。
　　7.7 解决之道——惯性保持和环境感知
　　A、动量（Momentum）方法
　　B、AdaGrad方法
　　C、Adam方法
　　7.8 L1正则化使得模型参数具有稀疏性的原理是什么？
　　角度1：解空间形状
　　角度2：函数叠加
　　角度3：贝叶斯先验

总是焦虑？心理学家只要学会这一简单方法，就能淡定了！试想一下，什么事情会让我们感到焦虑呢？去考试？如果都是小学一二年级的数学题，你会怎么样呢？会焦虑到前一天晚上都睡不好觉吗？你要和熟悉的朋友，闺蜜或者是好哥们吃饭聚会郊游，你会焦虑到强迫症焦虑症患者所认为的严重后果真的会发生吗？前几天有一个强迫症患者老是问自己厕所的把手到底干不干净，他自己觉得脏，但是又知道这个担心过了，然后强迫洗手，自己感觉恶心，同时又为洗手感到焦虑。之后就一直跟我确认是不是那个把手真的焦虑？强迫？不用愁，教你1招简单的自愈方法尼采曾说过最大的安慰就是知道了没有任何安慰的时候。在这里，焦虑强迫失眠的朋友们，我有一个问题，你需要自问一下在经历着让自己痛苦难忍焦躁不安甚至几近崩溃的情绪困扰的时候，你是否自我安老天津人吃早点有多讲究？陪毛驴喝豆浆，小碗浆子大碗盛，加豆腐老天津人把卖豆浆的早点铺称为是豆腐房。其实，豆腐房绝不只是卖豆腐，或者是卖豆浆。百分之九十的天津人不在家里吃早点，所以，豆腐房在卖豆浆的同时，一定还要卖炸果子，外加烧饼，或者是大饼故事一碗豆腐脑，满满的感动这天早晨，几个小学生刚刚坐下喝豆腐脑，就有一个腿脚不便的母亲领着一个小男孩走了进来，母亲很着急地对张金锁说老板，赶紧给我们来一碗豆腐脑，一个馒头。张金锁赶紧把豆腐脑和馒头端上来，母一碗豆腐脑的故事这天早晨，几个小学生刚刚坐下喝豆腐脑，就有一个腿脚不便的母亲领着一个小男孩走了进来，母亲很着急地对张金锁说老板，赶紧给我们来一碗豆腐脑，一个馒头。张金锁赶紧把豆腐脑和馒头端上来，母部分地域方言作者见心摆渡人宅（zhei，二声）子住宅当门就地屋当门室内地面覆棚顶棚锅屋厨房当天井天井，院子门欠子门槛粪茅子茅子灰栏子厕所风先风箱筲水桶调羹小勺气棒打气筒手灯电棒手电筒奶咂子奶嘴得了抑郁症，你是在顺其自然还是在放任自流自甘堕落？经常有抑郁症患者会问一个理论性的问题，关于顺其自然，我感到焦虑的时候，顺着抑郁而抑郁，感到焦虑时，想怎么样，就怎么样，这个是不是顺其自然呢？这个问题问的很好。相信很多患者了解过顺其3个月，我走出了失眠强迫，感谢这个方法让我学会了顺其自然俗话说四十不惑，本意应是指一个人到了四十岁，经历了许多，已经有了自己的判断能力，对人生诸事不再感到困惑了。也许，古时候是这样的。现代社会，四十岁却是人生的转折点，身上背负的责任越来先学会爱自己，自然会有人来爱你张嘉佳说我希望有一个如你一般的人，如山间清爽的风，如古城温暖的阳光我希望有一个如你一般的人，贯穿未来，数遍生命的公路牌，只要最后是你就好。每个人都希望成为别人的天边月杯中雪窗外星梦

<<<<<<－>>>>>>

农村建房一定注意这几点，不然费时费钱，还会出现坍塌农村建房说起来简单，可一干起来就会发现千头万绪，各方面都要注意。设计选材主体建造屋内装修，每一项都是大工程，马虎不得，若把控不严，轻则费钱费时费力，重则发生安全事故，造成人员伤亡，重阳节建一栋乡墅，让父母的笑容，点亮秋季的萧瑟故人具鸡黍，邀我至田家，绿树村边合，青山郭外斜，开筵面场圃，把酒话桑麻，待到重阳日，还来就菊花。短短几十个字，将重阳节去农村好友家蹭饭的情景描绘的诗情画意，让人产生无限向往。朝九晚七夕节不是情人节？一起看看老师们的土味情话今天是一年一度的七夕节。原本是一个乞巧的节日，因为有着牛郎织女的传说，也充满了爱情的意味。但实际上在很久以前七夕节，真的不是情人节啊！女子大型祈福节日在古代七夕的确和牛郎织女的传说留言有奖一名化学老师的毕业感言作为一名化学老师，都说不容易！一年前，我有幸走上三尺讲台，成为了一名光荣的人民教师。才发现，作为一名化学老师，很不容易教学要抓得好实验缺不了科研也得搞论文要发表判不完的作业备不完的分享一大波教师表情包来了（爆笑，老师幽默起来谁也挡不住）一起看看曾经的样子毕业那么多年了但看到这组表情包很多网友都表示虽然已经长大了自己仍是身躯一震看来老师们的余威仍在呀不知道老师您是不是也说过这些话呢？这帮孩子虽然嘴上喊着怕怕但对校园期末考试来了，老师比学生更害怕？攀枝花技师学院教你轻松应对作为一名老师，期末的时候，是什么事情让老师最焦虑？没日没夜批改试卷？学期教学总结？还是有一项报告专门针对老师心理危机作了相关调查，调查了老师最害怕的七件事情是什么？出人意料，考试排老师生活真实写照笑着看完，渐渐地理解了老师的不易生活真实写照生活真实写照生活真实写照生活真实写照生活真实写照生活真实写照生活真实写照生活真实写照生活真实写照生活真实写照看完之后你是不是渐渐理解了老师的不容易理解了再温柔的女生当了案例分享试题解析作业讲解怎么巧用高拍仪？记得上学时，往往有这样熟悉的场景老师在给我们解析易出错的试题时，经常会说请同学们把试卷打开，我们来看下第X大题下面第X题，这道题为什么容易出错针对作业评讲时，老师往往会拿着一个优秀云服务不上云，无安宁数据上云，打雷信息中心的老师也不怕眼下多雨的酷暑还未过去，雷雨还在继续，又到了考验学校数据中心制冷散热效果的时节，与此同时还要抵挡频繁的雷电冲击。每逢这个时候，网络设备遭受雷击的事件便一浪接一浪。对于数据中心来说，老师的期末是五花八门的爽，来当个老师吧期末来了，有多爽注意到没有标题的爽是有加引号的如果你真的认为大学老师到了期末就可以闲庭信步，悠哉度日那你就真的猜错了不信就来感受一下这种五花八门的爽豪爽酷爽酸爽凉爽激爽以上的爽完全南充技师学院告别传统Excel成绩管理，我有妙招成绩管理是职业院校教学质量管理的重要内容，是教务管理工作的重点和难点。学生成绩是实现人才培养目标检验学生综合素质和实践能力的重要手段与综合性实践教学环节。前期，南充技师学院对学生成