TensorFlowÉñ¾­ÍøÂçµ½Éî¶Èѧϰ

Ŀ¼
µÚ1Õ ×ß½øTENSORFLOW 1
1£®1 TensorFlow½éÉÜ 1
1£®1£®1 TensorFlowÌØÐÔ 1
1£®1£®2 Ë­¿ÉÒÔʹÓÃTensorFlow 2
1£®1£®3 ΪʲôGoogleÒª¿ªÔ´Õâ¸ö
ÉñÆ÷ 3
1£®2 TensorFlowµÄ»·¾³´î½¨ 4
1£®2£®1 °²×°»·¾³½éÉÜ 4
1£®2£®2 °²×°TensorFlow 5
1£®2£®3 CudaºÍCuDNNµÄ°²×° 7
1£®2£®4 Geany¿ª·¢»·¾³ 9
1£®3 TensorFlow»ù±¾Ê¹Óà 10
1£®3£®1 ¼ÆËãͼ 10
1£®3£®2 ¹¹½¨Í¼ 10
1£®3£®3 ÔÚÒ»¸ö»á»°ÖÐÆô¶¯Í¼ 11
1£®3£®4 ½»»¥Ê½Ê¹Óà 12
1£®3£®5 Fetch 12
1£®3£®6 Feed 13
1£®4 ±äÁ¿ 13
1£®5 TensorFlowµÄ¶ÓÁÐ 16
1£®5£®1 ¶ÓÁеĴ´½¨ 16
1£®5£®2 Ïß³Ìͬ²½ÓëÍ£Ö¹ 19
1£®5£®3 ¶ÓÁÐÖÐÊý¾ÝµÄ¶ÁÈ¡ 20
1£®6 TensorBoard¿ÉÊÓ»¯ 23
1£®6£®1 ÔÚTensorBoardÖв鿴
ͼ½á¹¹ 24
1£®6£®2 Êý¾Ý±ä»¯Ç÷ÊÆ 25
µÚ2Õ ¼ÆËã»úÊÓ¾õÓëÉî¶Èѧϰ 28
2£®1 ¼ÆËã»úÊÓ¾õ 28
2£®1£®1 ÈËÀàÊÓ¾õµÄÆôµÏ 28
2£®1£®2 ¼ÆËã»úÊÓ¾õµÄÄѵãºÍ
È˹¤Éñ¾­ÍøÂç 29
2£®1£®3 Éî¶Èѧϰ 30
2£®1£®4 Ç°Éî¶Èѧϰʱ´úµÄ
¼ÆËã»úÊÓ¾õ 31
2£®1£®5 ·ÂÉúѧ½Ç¶È¿´Éî¶Èѧϰ 31
2£®1£®6 Ó¦ÓÃÉî¶Èѧϰ½â¾ö¼ÆËã»ú
ÊÓ¾õÎÊÌâ 32
2£®2 Éî¶ÈѧϰÔÚÊÓ¾õÉϵÄÓ¦Óà 33
2£®2£®1 ÈËÁ³Ê¶±ð 33
2£®2£®2 ͼƬÎÊ´ðÎÊÌâ 33
2£®2£®3 ÎïÌå¼ì²âÎÊÌâ 34
2£®2£®4 ÎïÌå¸ú×Ù 36
2£®3 ¼ÆËã»úÊÓ¾õµÄѧϰ·½Ê½ºÍ
δÀ´Ç÷ÊÆ 36
2£®4 »úÆ÷ѧϰ 37
2£®4£®1 »úÆ÷ѧϰ·¢Õ¹µÄÀú³Ì 37
2£®4£®2 »úÆ÷ѧϰµÄ²½Öè 38
2£®4£®3 »úÆ÷ѧϰµÄ·ÖÀà 38
2£®4£®4 »úÆ÷ѧϰµÄ»ù±¾Ëã·¨ 40
µÚ3Õ Éî¶ÈÉñ¾­ÍøÂçµÄ»ù´¡ 42
3£®1 ÉúÎïÉñ¾­Ôª 42
3£®2 È˹¤Éñ¾­Ôª 43
3£®2£®1 È˹¤Éñ¾­ÔªµÄÊýѧģÐÍ 43
3£®2£®2 È˹¤Éñ¾­ÍøÂç 44
3£®2£®3 ¼¤»îº¯Êý 45
3£®2£®4 Éñ¾­ÔªÖ®¼äµÄÁ¬½ÓÐÎʽ 46
3£®2£®5 È˹¤Éñ¾­ÍøÂçµÄ·ÖÀà 47
3£®3 ¼¤»îº¯Êý 47
3£®3£®1 sigmoid¼¤»îº¯Êý 47
3£®3£®2 tanh¼¤»îº¯Êý 49
3£®3£®3 relu¼¤»îº¯Êý 50
3£®3£®4 dropout¼¤»îº¯Êý 53
3£®4 softmax´¦Àí·ÖÀàÎÊÌâ 54
3£®4£®1 ʲôÊÇsoftmax 54
3£®4£®2 softmaxÔ­Àí 54
3£®5 Ëðʧº¯Êý 56
3£®5£®1 ¾ùֵƽ·½²î 56
3£®5£®2 ½»²æìØ 56
3£®5£®3 ×Ô¶¨ÒåËðʧº¯Êý 57
3£®6 ÌݶÈϽµ·¨ 59
3£®6£®1 ÌݶÈϽµ·¨µÄ×÷ÓÃÓë·ÖÀà 59
3£®6£®2 ÍË»¯Ñ§Ï°ÂÊ 61
3£®7 ÓÅ»¯º¯Êý 62
3£®7£®1 Ëæ»úÌݶÈϽµÓÅ»¯Ëã·¨ 62
3£®7£®2 »ùÓÚ³åÁ¿ÓÅ»¯Ëã·¨ 63
3£®7£®3 AdadeltaÓÅ»¯Ëã·¨ 64
3£®7£®4 AdamÓÅ»¯Ëã·¨ 65
3£®8 ÄâºÏ 67
3£®8£®1 ¹ýÄâºÏºÍÇ·ÄâºÏ 68
3£®8£®2 ÕýÔò»¯µÄ·½·¨ 68
µÚ4Õ ȫÁ¬½ÓÉñ¾­ÍøÂç 72
4£®1 Ç°À¡Éñ¾­ÍøÂç¼ò½é 72
4£®2 ¸ÐÖª»ú 74
4£®2£®1 ¸ÐÖª»ú¶¨Òå 74
4£®2£®2 ѧϰ²ßÂÔ 78
4£®2£®3 ¸ÐÖª»úѧϰËã·¨ 78
4£®3 È«Á¬½Ó 83
4£®3£®1 È«Á¬½Ó½á¹¹ 83
4£®3£®2 Ç°Ïò´«²¥Ëã·¨ 84
4£®4 ÏßÐÔÄ£Ð͵ľÖÏÞÐÔ 87
4£®5 ¶à²ãÍøÂç½â¾öÒìÓòÔËËã 91
4£®6 È«Á¬½ÓÉñ¾­ÍøÂçµÄ¾­µäʵս 93

µÚ5Õ ¾í»ýÉñ¾­ÍøÂç 99
5£®1 ÈËÀàÊÓ¾õÔ­Àí 99
5£®2 ¾í»ýÔËËã 100
5£®2£®1 ¾í»ýÔËËã 101
5£®2£®2 ¾í»ýº¯ÊýʵÏÖ 102
5£®2£®3 ±êעͼÏñ¸ÐÐËȤµÄÇøÓò 106
5£®2£®4 ³Ø»¯ÔËËã 107
5£®2£®5 ¼ÓÇ¿¾í»ýÌØÕ÷ÌáÈ¡ 110
5£®3 ·´¾í»ý¡¢·´³Ø»¯²Ù×÷ 111
5£®3£®1 ·´¾í»ý²Ù×÷ 111
5£®3£®2 ·´³Ø»¯²Ù×÷ 114
5£®4 ¾í»ýÉñ¾­ÍøÂçµÄ½éÉÜ 117
5£®4£®1 ¾í»ýÉñ¾­ÍøÂçµÄÒ»°ã¿ò¼Ü 117
5£®4£®2 ¾í»ýÉñ¾­ÍøÂçµÄѵÁ· 119
5£®4£®3 ÀûÓþí»ýÉñ¾­ÍøÂçʵÏÖ
Êý¾Ý¼¯·ÖÀà 121
5£®5 ͼÏñÊý¾Ý´¦Àí 126
5£®5£®1 ͼÏñ±àÂë´¦Àí 127
5£®5£®2 ·­×ªÍ¼Ïñ 128
5£®5£®3 ͼÏñÉ«²Êµ÷Õû 129
5£®5£®4 ͼÏñ±ê×¼»¯´¦Àí 132
5£®5£®5 µ÷ÕûͼÏñ´óС 133
5£®5£®6 ͼÏñµÄ±ê×¢¿ò 137
µÚ6Õ ¸ß¼¶¾í»ýÉñ¾­ÍøÂç 140
6£®1 LeNet-5¾í»ýÉñ¾­ÍøÂç 140
6£®1£®1 LeNet-5Ä£ÐÍ 140
6£®1£®2 TensorFlow ʵÏÖ¼òµ¥µÄ
¾í»ýÉñ¾­ÍøÂç 142
6£®2 AlexNet¾í»ýÉñ¾­ÍøÂç 145
6£®2£®1 AlexNet¸ÅÊö 145
6£®2£®2 AlexNet½á¹¹ 148
6£®2£®3 AlexNetʵÏÖ 150
6£®3 VGGNet¾í»ýÉñ¾­ÍøÂç 154
6£®3£®1 VGGNetÄ£Ðͽṹ 155
6£®3£®2 VGGNetʵÏÖ 157
6£®4 Inception v3¾í»ýÉñ¾­ÍøÂç 162
6£®4£®1 ¼¸ÖÖ InceptionÄ£ÐÍ 162
6£®4£®2 Inception v3Ô­Àí¼°ÊµÏÖ 163
6£®5 ResNet¾í»ýÉñ¾­ÍøÂç 175
6£®5£®1 ResNetÄ£Ðͽṹ 175
6£®5£®2 ResNetʵÏÖ 177
µÚ7ÕÂ Ñ­»·Éñ¾­ÍøÂç 184
7£®1 RNN»ù´¡¸ÅÄîºÍ½á¹¹ 184
7£®2 RNNÇ°ºóÏò´«²¥Ëã·¨ 186
7£®2£®1 RNNÇ°Ïò´«²¥ 186
7£®2£®2 RNNºóÏò´«²¥ 187
7£®3 Ñ­»·Éñ¾­ÍøÂçµÄÌÝ¶È 191
7£®4 LSTMµ¥Ôª 193
7£®4£®1 LSTMµ¥Ôª»ù±¾½á¹¹ 193
7£®4£®2 LSTMµÄ±äÌå 200
7£®5 RNNµÄʵÏÖ 201
7£®6 ×ÔÈ»ÓïÑÔ½¨Ä£Óë´ÊÏòÁ¿ 214
7£®6£®1 ͳ¼ÆѧÓïÑÔÄ£ÐÍ 214
7£®6£®2 ¶ÀÈȱàÂë 217
7£®6£®3 ´ÊÏòÁ¿ÓëWord2vec 217
7£®7 LSTMʵÏÖÓïÒôʶ±ð 226
7£®7£®1 ÓïÒôÌØÕ÷½éÉÜ 226
7£®7£®2 Ëã·¨Á÷³Ì 227
7£®7£®3 TensorFlowʵÏÖÓïÒôʶ±ð 228
µÚ8Õ ¶Ô¿¹Éñ¾­ÍøÂç 235
8£®1 ÀíÂÛ֪ʶ 235
8£®1£®1 GANÍøÂç½á¹¹ 235
8£®1£®2 GANÔ­Àí 236
8£®1£®3 »ù±¾¼Ü¹¹ 236
8£®1£®4 GAN µÄÌص㼰ÓÅȱµã 237
8£®2 DCGANÍøÂç 243
8£®3 InfoGANÍøÂç 248
8£®4 WGAN-GPÍøÂç 255
8£®4£®1 WGANÍøÂçµÄÀíÂÛ 255
8£®4£®2 WGANÍøÂçµÄ
¸Ä½øWGAN-GPÍøÂç 256
8£®4£®3 WGAN-GPÍøÂçµÄʵÏÖ 257
8£®5 SRGANÍøÂç 260
8£®5£®1 ³¬·Ö±æÂʼ¼Êõ 260
8£®5£®2 ESPCNÍøÂçʵÏÖÊý¾ÝµÄ
³¬·Ö±æÂÊÖؽ¨ 261
µÚ9Õ ÆäËû¼à¶½Ñ§Ï° 264
9£®1 Ö§³ÖÏòÁ¿»ú 264
9£®1£®1 Ö§³ÖÏòÁ¿»úµÄº¬Òå 264
9£®1£®2 ÏßÐÔ²»¿É·ÖÖ§³ÖÏòÁ¿»úÓë
ºËº¯Êý 273
9£®1£®3 SMOÔ­Àí¼°ÊµÏÖ 280
9£®2 ÆÓËر´Ò¶Ë¹ 286
9£®2£®1 ͳ¼Æѧ֪ʶ 286
9£®2£®2 ÆÓËر´Ò¶Ë¹µÄÄ£ÐÍ 287
9£®2£®3 ÆÓËر´Ò¶Ë¹µÄÍƶϹý³Ì 287
9£®2£®4 ÆÓËر´Ò¶Ë¹µÄ²ÎÊý¹À¼Æ 288
9£®2£®5 ÆÓËر´Ò¶Ë¹Ëã·¨¹ý³Ì 289
9£®2£®6 ÆÓËر´Ò¶Ë¹µÄʵÏÖ 290
9£®3 ¾ö²ßÊ÷ 292
9£®3£®1 ÈÏʶ¾ö²ßÊ÷ 293
9£®3£®2 ID3Ëã·¨µÄ½éÉÜ 294
9£®3£®3 C4£®5Ëã·¨µÄ½éÉÜ 296
9£®3£®4 ¾ö²ßÊ÷µÄʵÏÖ 297
9£®4 k½üÁÚËã·¨ 300
9£®4£®1 kNNËã·¨ÈýÒªËØ 300
9£®4£®2 kdÊ÷ʵÏÖÔ­Àí 301
9£®4£®3 kNNËã·¨µÄÓÅȱµã 302
9£®4£®4 kNNËã·¨µÄʵÏÖ 303
µÚ10Õ ·Ç¼à¶½Ñ§Ï° 305
10£®1 Ö÷³É·Ö·ÖÎö 305
10£®1£®1 PCA˼Ïë 305
10£®1£®2 »ùÓÚ*СͶӰ¾àÀë 306
10£®1£®3 »ùÓÚ*´óͶӰ·½²î 307
10£®1£®4 PCAËã·¨Á÷³Ì 308
10£®1£®5 PCAµÄÓÅȱµã 308
10£®1£®6 PCAµÄʵÏÖ 309
10£®2 k¾ùÖµ¾ÛÀà 312
10£®2£®1 ¾àÀë²âÊÔ 312
10£®2£®2 k¾ùÖµ¾ÛÀàÔ­Àí 317
10£®2£®3 ´«Í³k¾ùÖµËã·¨Á÷³Ì 318
10£®2£®4 K-Means++¾ÛÀàËã·¨ 322
10£®3 ×Ô×éÖ¯Ó³ÉäÉñ¾­ÍøÂç 324
10£®3£®1 ×Ô×éÖ¯Ó³ÉäËã·¨ 325
10£®3£®2 Óëk¾ùÖµµÄ±È½Ï 325
10£®4 ÊÜÏÞ²£¶û×ÈÂü»ú 330
10£®5 Æ×¾ÛÀà 336
10£®5£®1 Æ×¾ÛÀàµÄ»ù´¡ÖªÊ¶ 336
10£®5£®2 Æ×¾ÛÀàÖ®ÇÐͼ¾ÛÀà 339
10£®5£®3 Æ×¾ÛÀàËã·¨µÄʵÏÖ 343
µÚ11Õ ×Ô¶¯±àÂë»ú 345
11£®1 ×Ô¶¯±àÂë»úÔ­Àí 345
11£®2 ±ê×¼×Ô¶¯±àÂë»ú 346
11£®3 Ï¡Êè×Ô¶¯±àÂë»ú 351
11£®4 È¥Ôë×Ô¶¯±àÂë»ú 355
11£®5 ¾í»ý×Ô¶¯±àÂë»ú 360
µÚ12Õ ǿ»¯Ñ§Ï° 366
12£®1 Ç¿»¯Ñ§Ï°µÄ¸ÅÊö 366
12£®2 Ç¿»¯Ñ§Ï°µÄѧϰ¹ý³Ì 367
12£®3 OpenAI GymÔ­Àí¼°Ó¦ÓÃ 369
12£®4 Q learningÔ­Àí¼°Ó¦ÓÃ 371
12£®5 DQNÔ­Àí¼°Ó¦ÓÃ 377
²Î¿¼ÎÄÏ× 384