ä»ä¹æ¯æ°æ®æ²»ç
æ°æ®æ²»çæ¯éæ¥å®ç°æ°æ®ä»·å¼çè¿ç¨ï¼å ·ä½æ¥è¯´ï¼æ°æ®æ²»çæ¯æå°é¶æ£çç¨æ·æ°æ®éè¿ééãä¼ è¾ãå¨åçä¸ç³»åæ ååçæµç¨åææ ¼å¼è§èãç»æç»ä¸çæ°æ®ï¼å¹¶æä¸¥æ ¼åè§èç综åæ°æ®ç®¡æ§;对è¿äºæ ååçæ°æ®è¿è¡è¿ä¸æ¥å å·¥åææä¸ºå ·ææ导æä¹çä¸å¡çæ§æ¥è¡¨ãä¸å¡çæ§æ¨¡å以帮å©ä¸å¡è¿è¡è¾ å©å³çã
å¨æ°æ®æ²»çæµç¨å½ä¸ï¼æ¶åå°äºå端ä¸å¡ç³»ç»ï¼å端ä¸å¡æ°æ®åºç³»ç»åå°ä¸å¡ç»ç«¯çæ°æ®åæï¼ä»æºå¤´å°ç»ç«¯ååå°æºå¤´ï¼å½¢æçä¸ä¸ªéç¯è´åé¦ç³»ç»?ãåæ ·å°ï¼å¨æ°æ®æ²»çæµç¨å½ä¸ï¼æ们ä¹éè¦ä¸å¥æ ååçè§èæ¥æ导æ°æ®çééãä¼ è¾ãå¨å以ååºç¨ã
æ°æ®æ²»çæµç¨
æ°æ®æ²»çæµç¨æ¯ä»æ°æ®è§åãæ°æ®ééãæ°æ®å¨å管çå°æ°æ®åºç¨æ´ä¸ªæµç¨çæ åºå°æåºçè¿ç¨ä¹æ¯æ ååæµç¨9çæ建è¿ç¨ãæ ¹æ®æ¯ä¸ä¸ªè¿ç¨çç¹ç¹ï¼æ们å¯ä»¥å°æ°æ®æ²»çæµç¨æ»ç»ä¸ºå个åï¼å³âçâãâéâãâåâãâç¨âã
1.ç:梳çä¸å¡æµç¨ï¼è§åæ°æ®èµæº
对äºä¼ä¸æ¥è¯´ï¼æ¯å¤©çå®æ¶æ°æ®é½ä¼è¶ è¿TB级å«ï¼éè¦ééç¨æ·çåªäºæ°æ®ï¼è¿ä¹å¤çæ°æ®æ¾å¨åªéï¼å¦ä½æ¾ï¼ä»¥ä»ä¹æ ·çæ¹å¼æ¾?è¿äºé®é¢é½æ¯éè¦äºå è¿è¡è§åçï¼éè¦æä¸å¥ä»æ åºå为æåºçæµç¨ï¼è¿ä¸ªè¿ç¨éè¦è·¨é¨é¨çåä½ï¼å æ¬äºå端ãå端ãæ°æ®å·¥ç¨å¸ãæ°æ®åæå¸ã项ç®ç»ççè§è²çåä¸ã
2.é:ETLééãå»éãè±æã转æ¢ãå ³èãå»é¤å¼å¸¸å¼
åå端å°ééå°çæ°æ®ç»å°æ°æ®é¨é¨ï¼æ°æ®é¨é¨éè¿ETLå·¥å ·å°æ°æ®ä»æ¥æºç«¯ç»è¿æ½å(extract)ã转æ¢(transform)ãå è½½(load)è³ç®ç端çè¿ç¨ï¼ç®çæ¯å°æ£è½åé¶ä¹±çæ°æ®éä¸åå¨èµ·æ¥ã
3.å:大æ°æ®é«æ§è½åå¨å管ç
è¿ä¹å¤çä¸å¡æ°æ®åå¨åªé?è¿éè¦æä¸é«æ§è½ç大æ°æ®åå¨ç³»ç»ï¼å¨è¿å¥ç³»ç»éé¢å°æ°æ®è¿è¡åé¨å«ç±»æ¾å°å ¶å¯¹åºçåºéé¢ï¼ä¸ºåç»ç管çå使ç¨æä¾æ大ç便å©ã
4.ç¨:å³æ¶æ¥è¯¢ãæ¥è¡¨çæ§ãæºè½åæã模åé¢æµã
æ°æ®çæç»ç®çå°±æ¯è¾ å©ä¸å¡è¿è¡å³çï¼åé¢çå 个æµç¨é½æ¯ä¸ºæç»çæ¥è¯¢ï¼åæï¼çæ§åéºå«ãè¿ä¸ªé¶æ®µå°±æ¯æ°æ®åæå¸ç主åºï¼åæå¸ä»¬è¿ç¨è¿äºæ ååçæ°æ®å¯ä»¥è¿è¡å³æ¶çæ¥è¯¢ãææ ä½ç³»åæ¥è¡¨ä½ç³»ç建ç«ï¼ä¸å¡é®é¢çåæï¼å ¶è³æ¯æ¨¡åçé¢æµã
æ°æ®æ²»çå æ¬åªå 个æ¹é¢ï¼
æ°æ®æ²»çæ¯ä¸å¥æç»æ¹å管çæºå¶ï¼é常å æ¬äºæ°æ®æ¶æç»ç»ãæ°æ®æ¨¡åãæ¿çåä½ç³»å¶å®ãææ¯å·¥å ·ãæ°æ®æ åãæ°æ®è´¨éãå½±å度åæãä½ä¸æµç¨ãçç£åèæ ¸çå 容ãä»ææ¯è§åº¦æ¥çï¼æ°æ®æ²»çæ¶åçITææ¯ä¸»é¢å æ¬å æ°æ®ãæ°æ®æ åãæ°æ®è´¨éãæ°æ®éæã主æ°æ®ãæ°æ®èµäº§ãæ°æ®äº¤æ¢ãçå½å¨æãæ°æ®å®å ¨å¤äº§åç»æçä¸æ´å¥è§£å³æ¹æ¡ã
å æ°æ®ï¼ééæ±æ»ä¼ä¸ç³»ç»æ°æ®å±æ§çä¿¡æ¯ï¼å¸®å©åè¡åä¸ç¨æ·è·å¾æ´å¥½çæ°æ®æ´å¯åã
æ°æ®æ åï¼å¯¹åæ£å¨åç³»ç»ä¸çæ°æ®æä¾ä¸å¥ç»ä¸çæ°æ®å½åãæ°æ®å®ä¹ãæ°æ®ç±»åãèµå¼è§åççå®ä¹åºåï¼å¹¶éè¿æ åè¯ä¼°ç¡®ä¿æ°æ®å¨å¤ææ°æ®ç¯å¢ä¸ç»´æä¼ä¸æ°æ®æ¨¡åçä¸è´æ§ãè§èæ§ã
æ°æ®è´¨éï¼ææè¯å«åç±»æ°æ®è´¨éé®é¢ï¼å»ºç«æ°æ®ç管ï¼å½¢ææ°æ®è´¨é管çä½ç³»ï¼çæ§å¹¶æ示æ°æ®è´¨éé®é¢ï¼æä¾é®é¢æç»æ¥è¯¢åè´¨éæ¹è¿å»ºè®®ã
æ°æ®éæï¼å¯å¯¹æ°æ®è¿è¡æ¸ æ´ã转æ¢ãæ´åã模å管ççå¤çå·¥ä½ãæ¢å¯ä»¥ç¨äºé®é¢æ°æ®çä¿®æ£ï¼ä¹å¯ä»¥ç¨äºä¸ºæ°æ®åºç¨æä¾å¯é çæ°æ®æ¨¡åã
主æ°æ®ï¼å¸®å©ä¼ä¸å建并维æ¤å é¨å ±äº«æ°æ®çåä¸è§å¾ï¼ä»èæé«æ°æ®è´¨éï¼ç»ä¸åä¸å®ä½å®ä¹ï¼ç®åæ¹è¿åä¸æµç¨å¹¶æé«ä¸å¡çååºé度ã
æ°æ®èµäº§ï¼æ±éä¼ä¸ææè½å¤äº§çä»·å¼çæ°æ®èµæºï¼ä¸ºç¨æ·æä¾èµäº§è§å¾ï¼å¿«éäºè§£ä¼ä¸èµäº§ï¼åç°ä¸è¯èµäº§ï¼ä¸ºç®¡çåæä¾å³çä¾æ®ï¼æåæ°æ®èµäº§çä»·å¼ã
æ°æ®äº¤æ¢ï¼ç¨äºå®ç°ä¸åæºæä¸åç³»ç»ä¹é´è¿è¡æ°æ®æè æ件çä¼ è¾åå ±äº«ï¼æé«ä¿¡æ¯èµæºçå©ç¨çã
æ°æ®å®å ¨ï¼æä¾æ°æ®å å¯ãè±æã模ç³åå¤çãè´¦å·çæ§çåç§æ°æ®å®å ¨çç¥ï¼ç¡®ä¿æ°æ®å¨ä½¿ç¨è¿ç¨ä¸ææ°å½ç认è¯ãææã访é®å审计çæªæ½ã
çå½å¨æï¼ç®¡çæ°æ®çå½å¨æï¼å»ºç«æ°æ®èªå¨å½æ¡£åéæ¯ï¼å ¨é¢çæ§å±ç°æ°æ®ççå½è¿ç¨ã