iT邦幫忙

資料處理相關文章
共有 25 則文章
鐵人賽 Cloud、Big Data DAY 8

技術 Gnuplot 簡單數據繪圖

假設的資料存檔為 data1.txt 內容如下: 1 22 2 56 3 87 4 6 5 46 6 56 7 59 8 84 9 90 10...

鐵人賽 Cloud、Big Data DAY 9

技術 Gnuplot 畫兩組數據

將昨天的亂數資料檔再新增一行亂數.取名為data2.txt 如: 1 22 37 2 56 20 3 87 79 4 6 46 5...

鐵人賽 Cloud、Big Data DAY 10

技術 Gnuplot 輸出為PNG格式以及設定中文字型

Gnuplot有多種輸出格式,我們可以直接指定輸出為 png格式,並且可以設定字型. 在此我們選用pngcairo,這會使用cairo來繪製, 圖形會比較漂亮,...

鐵人賽 自我挑戰組 DAY 17
Python資料分析學習地圖 系列 第 17

技術 Day 17 : 模型前的資料處理 (1)

雖然好的模型和參數可以提高成效,但通常最關鍵還是資料本身。基本上資料的品質決定了八成以上模型的成效,因此大家有必要對自己的資料有所認識和了解。 而在做機器學習的...

鐵人賽 Cloud、Big Data DAY 12

技術 Gnuplot繪圖 使用對數座標

Gnuplot 可以使用對數座標. 範例如下: set term pngcairo font "SetoFont" set output &...

鐵人賽 Cloud、Big Data DAY 13

技術 Gnuplot 3D繪圖

進入互動模式: unset key f(x,y)=sin(sqrt(x*x+y*y))/sqrt(x*x+y*y) set xlabel "X&quo...

鐵人賽 Cloud、Big Data DAY 16

技術 CSVKit 介紹

CSV檔是我們資料處理時蠻好用的格式, 現在有人開發出一套csvkit,裡面包含好幾個好用的指令. 因為他是使用Python開發的,我們使用Python的安裝工...

鐵人賽 Cloud、Big Data DAY 29

技術 將資料快速導向Gnuplot畫圖的輔助程式 Feedgnuplot

前面有介紹過Gnuplot,可以畫出漂亮的圖形. 也看到要下一些指令,進行設定. 可是有時候我們只是想要快速的畫出一些簡單的圖形. 而且可以在命令列裡面直接,簡...

鐵人賽 Cloud、Big Data DAY 14

技術 Gnuplot繪圖 同時顯示多個圖形的方法

先使用 multiplot 縱向數目,橫向數目 設定即可 進入互動模式 unset key set term pngcairo font "Anony...

鐵人賽 Cloud、Big Data DAY 11

技術 Gnuplot 箭頭範例

有時候需要使用箭頭來提示. 今天的範例就使用了箭頭,加上文字label來說明. 並且在最大值處畫個醒目的點,我們使用了色碼, 來指定顏色. 而且指定了比較萌一點...

鐵人賽 Cloud、Big Data DAY 30

技術 蠻可愛的資料處理

結語 在前面的29天中,從資料庫的一些案例出發,裡面 有產生大量測試資料的方法,也有一些比較有點 難度,但是在系統實務上很有用的案例,這部份 我只提出一些Tab...

鐵人賽 AI & Data DAY 6
人工智慧 vs.工人智慧 系列 第 6

技術 Day 06:資料處理

從這裡開始,開始需要執行程式。在之後的範例裡面,我們會把所有的 functions 都先放在 TaggingMain_Sample.java 裡。 文章列表為了...

鐵人賽 AI & Data DAY 5

技術 Day5 利用Python處理資料(4) -- 資料插補(Imputation)

前言 遺失值(Missing Value)資料的插補也是訓練模型前資料清洗重要的一環,在進行資料分析時資料常常是不完善的,因此需要有一些方法來處理資料遺失的狀況...

鐵人賽 Cloud、Big Data DAY 20

技術 從網路上擷取資料以及指令組合運用

在第15天時有討論資料處理的一些項目與過程. 其中一項是從網路上擷取資料. 從網路上擷取資料的方式很多,今天要介紹 curl. 我們從古騰堡計畫的網站來擷取馬基...

鐵人賽 Cloud、Big Data DAY 18

技術 CSVKit 3

再接再厲,繼續研究csvkit這好東西. 找出我們想要的資料 一般的UNIX指令是grep;在SQL中是用where. csvkit中提供了csvgrep. 來...

鐵人賽 Cloud、Big Data DAY 15

技術 關於資料處理

經過前面幾天的SQL範例以及plot範例, 鐵人賽也到中間了. 今天來談一下關於資料處理的一些項目與過程. 1.獲得資料 從別的地方下載資料,例如從網頁擷取....

鐵人賽 Cloud、Big Data DAY 19

技術 CSVKit 4

最近很流行且通用的資料格式 json, csvkit也提供了csv轉換到json 的tool,叫 csvjson. 來看以下的範例: $ csvcut -c c...

鐵人賽 Cloud、Big Data DAY 23

技術 過濾資料探討3

昨天探討到使用[0-9]這樣的方式來代表數字的範圍. 今天接著探討範圍. In [1]: import re In [2]: re.search("...

鐵人賽 Cloud、Big Data DAY 24

技術 過濾資料探討4

今天來討論一下排除及簡記法. 在之前例子中,多是使用列舉, 在一些情況下用排除會比較方便. 來看以下的例子 In [1]: import re In [2]:...

鐵人賽 Cloud、Big Data DAY 25

技術 過濾資料探討5

今天介紹量詞(quantifier) 先來看以下基本例子 In [1]: import re In [2]: re.search(r"^\d\d\d...

鐵人賽 Python DAY 19

技術 [Day18] Python專案 - 表格文件的資料處理與實踐 -(3) 解決你工作中奇怪的excel資料跟老闆需求!?

目標 我相信大家在成為軟體工程師前就有接觸excel來查閱或整理資料了~ 在工作中看過奇怪的 資料怪談(空白、資料不齊全、檔案無法下載、無法解析...等)...

鐵人賽 AI & Data DAY 13

技術 [DAY13] 機器學習基本架構(一): 資料前處理

基本架構 1.找出問題2.思考是否真的需要使用機器學習?3.資料收集4.資料前處理5.特徵工程6.模型訓練7.模型評估8.微調模型&參數9.預測&amp...

技術 PascalVOC 轉 Yolo標籤格式 (上) (範例程式碼)

完整程式碼! https://github.com/yu-ken0207/PascalVOCtoYolo 將Pascal VOC格式的標註轉換為YOLO格式 要...

鐵人賽 Python DAY 17

技術 [Day16] Python專案 - 表格文件的資料處理與實踐 -(1) 操作檔案的基本功

目標 這個專案的目標主要是為了處理excel以及Libreoffice - Calc (ODS格式)表個文件的專案 因為表格文件在我們日常生活中廣泛應用除了文...

鐵人賽 Python DAY 18

技術 [Day17] Python專案 - 表格文件的資料處理與實踐 -(2) 資料處理的武術寶典

目標說明 經過昨天的檔案操作後想要帶大家更更進階的操作~ 工作中常用的excel技能 根據工作中大大的要求大概可以定義成這兩項技能會拆解成兩大項:1.資料的...