APP
這篇文章沒有代碼，請放心閱讀。
程序員最寶貴的東西是生命，生命屬于程序員只有一次。一個(gè)程序員的一生應(yīng)該這樣度過：當(dāng)她回首往事的時(shí)候，她不會因?yàn)榇罱ōh(huán)境浪費(fèi)時(shí)間而悔恨，也不會因?yàn)榧簾o法運(yùn)行而羞恥。這樣，在她開發(fā)的時(shí)候，她能夠說：“我的整個(gè)生命和全部精力，都已經(jīng)獻(xiàn)給了開發(fā)中最重要的事情——設(shè)計(jì)程序，實(shí)現(xiàn)程序和調(diào)Bug?！?——P醬。
P醬是公司新來的實(shí)習(xí)生妹子。聽說是一個(gè)文科生。文科生應(yīng)該會去文案組或者策劃組吧。什么？來數(shù)據(jù)組？讓我來帶？
于是我和P醬生活工作在了一起。
P醬你會些什么？
“我叫P醬，在XX大學(xué)讀研二，愛好是拍照和被拍，大家可以在B站找到我跳舞的視頻，比如av170001。我的另外一個(gè)愛好是寫代碼……”
當(dāng)一個(gè)文科妹子說自己喜歡寫代碼的時(shí)候，整個(gè)辦公室熱鬧了起來。
“P醬，聽說你喜歡寫代碼，那你寫過什么東西嗎？”新人介紹會議結(jié)束以后，我問P醬。
“一般都是各種分析程序，我們的專業(yè)要做很多調(diào)查報(bào)告，他們都是用Excel來計(jì)算的。我喜歡用Python來把這些統(tǒng)計(jì)過程自動化。后來也寫過自動寫詩的程序、鬼畜視頻生成器等等?！?/p>
“真不敢相信你是文科生。這么說你的興趣是數(shù)據(jù)分析方向咯？”
“其實(shí)我對師父你做的爬蟲很有興趣。但是聽說會經(jīng)常和網(wǎng)站發(fā)生對抗？女孩子還是不要打打殺殺的好~”
于是我讓P醬負(fù)責(zé)對爬蟲的原始數(shù)據(jù)進(jìn)行清洗、整理并做簡單的分析。
一種船新的數(shù)據(jù)儲存方式
“P醬，爬蟲抓到的原始數(shù)據(jù)是存放在MongoDB里面的，你的Python還不錯(cuò)吧，你試一試用Python來讀寫MongoDB看看?！?/p>
“MongoDB是什么呀？”
“是一個(gè)和MySQL不太一樣的數(shù)據(jù)庫?！?/p>
“MySQL我知道，MongoDB和MySQL有什么不一樣呢？”
“我舉個(gè)例子，當(dāng)你要插入數(shù)據(jù)的時(shí)候，你需要做的，就是‘插入’?？瓤?，你不要臉紅，我是指你不需要寫SQL語句、不需要建表、不需要提前定義字段。僅僅只需要一行代碼就能夠?qū)崿F(xiàn)了。我這里給你寫了一篇文檔，講到了MongoDB的增刪改查，你試一試。數(shù)據(jù)庫已經(jīng)給你搭建好了，你直接連上去用吧”
半天以后。
“師父，我已經(jīng)會使用MongoDB啦?！?/p>
“你讀爬蟲的原始數(shù)據(jù)，主要涉及到的就是查詢操作，為了鞏固插入、修改和刪除的操作，再給你一個(gè)小任務(wù)吧。試一試寫一個(gè)人員管理系統(tǒng)吧?！?/p>
既然有關(guān)系，就整整齊齊放在一起看吧
“P醬，你看起來很高興的樣子啊?！?/p>
“因?yàn)槲矣X得MongoDB比起MySQL太簡單了啊~”
“你確定？那我看看你怎么對整行數(shù)據(jù)去重的？”
“師父，我知道distinct關(guān)鍵字可以對一個(gè)字段去重。但是整行數(shù)據(jù)我是讀出來用Python來去重的?！?/p>
“這個(gè)時(shí)候你就要用到MongoDB的聚合查詢了。文檔已經(jīng)給你寫好了，拿去看吧?！?/p>
“還有還有，這里你把店鋪信息和菜單信息放在了兩個(gè)集合里面，我怎么樣才能把他們聯(lián)表查詢出來呢？”
“聯(lián)表查詢是MySQL里面的操作，在MongoDB里面，沒有 表，只有 集合，所以叫做 聯(lián)集合查詢更恰當(dāng)一些。這也是要用到聚合查詢，也在這個(gè)文檔里面了?！?/p>
再給你一個(gè)玩具吧。
“P醬，之前讓你做的爬蟲數(shù)據(jù)監(jiān)控系統(tǒng)怎么樣了？”
“功能已經(jīng)做好了，但是有一個(gè)地方查詢起來特別慢。我已經(jīng)加過索引了，但還是很慢。懷疑是同時(shí)聯(lián)了四個(gè)集合的數(shù)據(jù)造成的?！?/p>
“這邊的數(shù)據(jù)實(shí)際上每小時(shí)才更新一次，你沒有必要每次刷新頁面都去查詢MongoDB的。我覺得是時(shí)候讓你用一下Redis做緩存了?！?/p>
“Redis就是那個(gè)內(nèi)存數(shù)據(jù)庫嗎？我知道我知道?！?/p>
“給你寫了一份文檔，包含Redis里面的各種數(shù)據(jù)類型和使用方式。你試一試把Redis和MongoDB結(jié)合起來看看能不能提高速度?！?/p>
你怎么擅自加功能??！
“P醬，你怎么在爬蟲監(jiān)控系統(tǒng)的網(wǎng)頁上加了一個(gè)廣播窗口？”
“呀，被師父發(fā)現(xiàn)了。因?yàn)槲蚁氲酵粋€(gè)爬蟲可能會被幾個(gè)人監(jiān)控，所以就用Redis的發(fā)布訂閱功能做出來了這個(gè)廣播的功能。一旦爬蟲狀態(tài)發(fā)生改變，所有人都能收到推送?！?/p>
“既然你這么閑，那不如加上賬號登錄功能，把權(quán)限驗(yàn)證也做上去？不同的人只能看到自己負(fù)責(zé)的爬蟲。順便你可以試一試用Redis實(shí)現(xiàn)……”
“實(shí)現(xiàn)布隆過濾器和Session管理是嗎？”
“你怎么知道我要說什么？”
“因?yàn)槲以缟峡吹侥阍谖臋n上面更新了布隆過濾器和Session管理相關(guān)的內(nèi)容啊~”
紅色的鎖？
“師父師父，你知道什么是RedLock嗎？”
“你學(xué)得這么快？都知道RedLock了？RedLock是Redis官方給出的分布式鎖的算法。已經(jīng)有很多編程語言實(shí)現(xiàn)它了?！?/p>
“原來RedLock只是一個(gè)算法啊……”
為什么我學(xué)的這么快呢？
“師父師父，我覺得很奇怪啊，為什么MongoDB和Redis我學(xué)得這么快呢？難道是因?yàn)樗麄儽緛砭秃唵?？還是因?yàn)槲姨斆髁?？?/p>
“為什么你不說是因?yàn)槟銕煾附痰暮媚?？?/p>
“因?yàn)檫@是事實(shí)啊~不用我說出來~”
“咳咳，實(shí)際上是因?yàn)閮蓚€(gè)原因。一是你一直通過項(xiàng)目驅(qū)動來學(xué)習(xí)，先有需求，然后再去學(xué)習(xí)實(shí)現(xiàn)這個(gè)需求所要涉及到的技能。所以你知道你學(xué)的東西能用來干什么，自然就能學(xué)得快……”
“那第二個(gè)原因是什么呢？”
“第二個(gè)原因，我先問你一個(gè)問題，你會搭建Redis集群嗎？會搭建MongoDB集群嗎？知道什么叫做哨兵嗎？你知道如何優(yōu)化MongoDB的啟動參數(shù)嗎？”
“這…………好像都不知道額…………”
“因?yàn)槟愕慕巧菙?shù)據(jù)工程師，不是數(shù)據(jù)庫工程師，所以數(shù)據(jù)庫搭建、底層優(yōu)化這些內(nèi)容我都給你跳過了?！?/p>
“這些聽起來都很重要啊，師父你會教我嗎？”
“你想經(jīng)常值夜班嗎？想半夜3點(diǎn)被人打電話叫起來修數(shù)據(jù)庫嗎？認(rèn)清自己的定位啊，數(shù)據(jù)庫工程師的技能當(dāng)然很重要，但你是要成為數(shù)據(jù)工程師的人，技能樹應(yīng)該點(diǎn)在合適的方向?！?/p>
后記
后來，P醬成了別人的女朋友。
幸好我還有左手和右手，于是我把我給P醬總結(jié)的文檔編撰成了《左手MongoDB，右手Redis——從入門到商業(yè)實(shí)戰(zhàn)》這本書。本書現(xiàn)在已經(jīng)在京東、亞馬遜、淘寶上架。
這本書的定位是MongoDB和Redis的應(yīng)用，所以有意弱化了數(shù)據(jù)庫的搭建、維護(hù)和底層優(yōu)化。所以本書可能不適合數(shù)據(jù)庫工程師。
希望本書能夠給那些一直想掌握MongoDB、Redis，但是又不知道從何處下手的讀者，提供一個(gè)學(xué)習(xí)的方向。
福利時(shí)間：
在本文下面留言，回復(fù)你與MongoDB、Redis的故事并把本文轉(zhuǎn)發(fā)到朋友圈，我將會在2019年02月25日20點(diǎn)選擇三位同學(xué)，每人贈送一本簽名版的《左手MongoDB，右手Redis——從入門到商業(yè)實(shí)戰(zhàn)》
?
本文摘自 ：https://blog.51cto.com/u
