首页 » 文章归档 2019年1月 »

归档:2019年1月

文章

人工智能

float16/32/64对神经网络计算的影响

by 麦新杰 / 2019年1月12日

神经网络的计算,或者说深度学习的计算,全都是浮点数。浮点数的类型分16/32/64(128位的不再考虑范围内,numpy和python最大只到float64),选择哪一种浮点数类型,对神经网络的计算有不同的影响。 阅读全文->

InfoTech

ISO-8859-1编码(Latin1)介绍

by 多肉 / 2019年1月11日

ISO-8859-1编码是单字节编码,向下兼容ASCII,其编码范围是0x00-0xFF,0x00-0x7F之间完全和ASCII一致,0x80-0x9F之间是控制字符,0xA0-0xFF之间是文字符号。 阅读全文->

人工智能

会死掉的ReLU

by 麦新杰 / 2019年1月11日

死掉的ReLU是不可逆的,即它无法再“正常”地活过来,因为对于所有的input,它的输出都是0,这时按照BP算法规则,它的weight和bias无法得到更新。 阅读全文->

InfoTech

初次运行Git前的配置

by 麦新杰 / 2019年1月9日

总是在新的编程环境中,忘记配置git的基本信息。这回导致git push到github之后,commit不能在用户profile的那个contribution的图表中显示出来。 阅读全文->

InfoTechLinux

在Linux下设置新的环境变量

by 麦新杰 / 2019年1月9日

Linux下的环境变量分两种,临时的,或永久的。其实,这两者的设置方法是一样的,都是使用export命令。 阅读全文->

人工智能

深度学习与bfloat16(BF16)

by 麦新杰 / 2019年1月9日

BF16的指数位比FP16多,跟FP32一样,不过小数位比较少。这样设计说明了设计者希望在16bits的空间中,通过降低精度(比FP16的精度还低)的方式,来获得更大的数值空间(Dynamic Range)。 阅读全文->

InfoTech

IEEE754浮点数2008版

by 麦新杰 / 2019年1月9日

原IEEE浮点数标准之定义了32位和64位两种浮点数,即C程序员常说的单精度浮点数和双精度浮点数。新的2008版的标准,还定义了16位和128位的标准。 阅读全文->

人工智能

多通道数据下的卷积计算

by 麦新杰 / 2019年1月8日

对于单通道数据,比如MNIST,卷积的计算是清晰明确的,但是对于多通道数据,比如CIFAR10,卷积的计算是如何进行的呢? 阅读全文->

InfoTech

图片的单通道和多通道

by 麦新杰 / 2019年1月8日

我理解图片的通道数,就是指图片上每个点包含的颜色值的个数。 阅读全文->

人工智能

用直觉理解Cost函数

by 麦新杰 / 2019年1月7日

在学习英文的神经网络资料的时候,经常会看到直觉这个词(intuition),国外的学者有倾向于通过直觉来理解和寻找灵感的习惯。本人很认同这种思维方式。 阅读全文->

投资理财梁孝永康

钱少的人投资如何保持好心态

by 多肉 / 2019年1月7日

大家都知道,做投资心态很重要,但是我发现一个很有意思的现象,很多人觉得资金大的人才能心态好,比如他们说我之所以心态好,是因为我钱多(其实我这点钱算什么呢),不为生活发愁。 阅读全文->

7788老男孩学数学

自信息和信息熵

by 麦新杰 / 2019年1月7日

自信息的定义为:一个随机事件所包含的自信息数量,只与事件发生的概率相关。随机事件发生的概率越低,在事件真的发生时,所传递出来的信息量就越大。 阅读全文->

人工智能

为什么叫深度学习(Deep Learning)?

by 多肉 / 2019年1月4日

深度学习,Deep Learning,是通往AI的一条路。当然还有其它的路,不过这条路现在很火很流行。为什么叫做深度学习呢? 阅读全文->

7788老男孩学数学

辛普森悖论

by 多肉 / 2019年1月4日

当人们尝试探究两种变量是否具有相关性的时候,会分别对之进行分组研究。然而,在分组比较中都占优势的一方,在总评中有时反而是失势的一方。 阅读全文->

投资理财

1990--2018上证指数年度涨跌幅排行

by 多肉 / 2019年1月3日

1990--2018上证指数年度涨跌幅排行 阅读全文->

投资理财金石致远杨天南

想问芒格的一个问题

by 多肉 / 2019年1月3日

2018年在中国股市二十八年的历史上,名列第二最糟糕年份,仅次于2008年。全球股市中,A股跌幅最惨。上证综指下跌24.59%,深证成指下跌34.42%,创业板下跌28.65%,中小板下跌37.75%。 阅读全文->

投资理财投资笔记

无处安放的现金

by 麦新杰 / 2019年1月3日

只要一想到手里的现金在长毛,就会开始轻微的焦虑,然后检查持仓,寻找补仓“良机”。或者开启疯狂的学习模式,寻找其它的价值投资标的。一心只想让现金尽快变成资产,然后开始等待复利。 阅读全文->

人工智能

理解weight decay

by 麦新杰 / 2019年1月3日

weight decay是一种神经网络regularization的方法,它的作用在于让weight不要那么大,实践的结果是这样做可以有效防止overfitting。至于为什么有这样的效果,有些写书的人也说不清楚。 阅读全文->

人工智能

神经网络input data normalization

by 麦新杰 / 2019年1月2日

业界的最佳实践是,对于使用sigmoid的神经网络,input数据要normalize到0-1之间,对于使用tanh的神经网络,input的数据要normalize到-0.5-0.5之间。 阅读全文->

云上小悟,麦新杰的独立博客

Ctrl+D 收藏本页

栏目

AD

ppdai

©Copyright 麦新杰 Since 2014 云上小悟独立博客版权所有 备案号:苏ICP备14045477号-1。云上小悟网站部分内容来源于网络,转载目的是为了整合信息,收藏学习,服务大家,有些转载内容也难以判断是否有侵权问题,如果侵犯了您的权益,请及时联系站长,我会立即删除。

网站二维码
go to top