딥러닝의 기본 학습 - 머신러닝의 개념과 용어-실습-1

머신러닝을 위한 라이브러리중 텐서플로우로 실습을 진행한다.

 

본글은 모두를 위한 머신러닝에서 발췌하여 개인적으로 노트한글이다.

 

텐서플로우 동작 원리

개발환경을 구축 했으면....(ㅇㅇㅇ)

 

#. 텐서플로우란 뭘까?

 

텐서=데이터를 칭하는 것으로 데이터의 흐름을 제어 하므로 머신런닝을 보다쉽게 처리해주는 라이브러리이다

역시 갓구굴이다.

 

사용자중 대다수가 텐서를 이용한다. 내가볼땐 거기에 대한 이유는 시각화가 뛰어나고 이용에 편리하다.

다른 라이브러리들은 이용이까다롭고 개별화 되어있어 환경 구성하기가 지랄이다.

 

하지만 텐서는 이모든것을 하나로 통합하여 처리하게 해주며 공짜다...

 

한번에 인풋 중간층 트레이너 까지 처리가 된다 오~~~그걸또 그래프로 보여준다 와~~~

 

노드는 산술을 하는 놈이고 엣지 화살표는 데이터가 흘러가게 하는녀석이다.

 

이녀석의 생김새와 동작 원리를 봤으니 백문이 불여 일타 코딩을보자

 

import tensorflow as tf

# X and Y data
x_train = [1, 2, 3]
y_train = [1, 2, 3]

#. 노드를 정의 하자-variable = 텐서가 이용하는것 - 학습과정시
#. 쉐입을 정의 하고 진행한다.
#. 이번것은 렌덤하게 처리한다.쉐입을
W = tf.Variable(tf.random_normal([1]), name='weight')
b = tf.Variable(tf.random_normal([1]), name='bias')

# Our hypothesis XW+b
# 가설을 구성한 선형
hypothesis = x_train * W + b

# cost/loss function
# 텐서에서는 squre 처리
#. reducemean = 텐서가 평균내준다.
cost = tf.reduce_mean(tf.square(hypothesis - y_train))

# Minimize
#.optimaz~~처리
optimizer = tf.train.GradientDescentOptimizer(learning_rate=0.01)
train = optimizer.minimize(cost)
#-----------------------그래프구현이 완료되었다 --------------------#

# Launch the graph in a session.
sess = tf.Session()
# Initializes global variables in the graph.
sess.run(tf.global_variables_initializer())

# Fit the line
for step in range(2001):
   sess.run(train)
   if step % 20 == 0:
       print(step, sess.run(cost), sess.run(W), sess.run(b))

결과는 아래처럼 20번 마다.나타난다.

 

cf. 텐서플로우가 설치 되어 올바르게 동작 되지 않으면 오류가 날것인데 인터넷에 무자게 많다.

- CPU 버전으로 테스트 했다.

 

맨좌측부터 순번 코스트 - W -B 의값이 된다.

0 3.5240757 [2.1286771] [-0.8523567]
20 0.19749945 [1.533928] [-1.0505961]
40 0.15214379 [1.4572546] [-1.0239124]
60 0.1379325 [1.4308538] [-0.9779527]
80 0.12527025 [1.4101374] [-0.93219817]
100 0.11377233 [1.3908179] [-0.8884077]
120 0.10332986 [1.3724468] [-0.8466577]
140 0.093845844 [1.3549428] [-0.80686814]
160 0.08523229 [1.3382617] [-0.7689483]
180 0.07740932 [1.3223647] [-0.73281056]
200 0.07030439 [1.3072149] [-0.6983712]
220 0.06385162 [1.2927768] [-0.6655505]
240 0.05799109 [1.2790174] [-0.63427216]
260 0.05266844 [1.2659047] [-0.6044637]
280 0.047834318 [1.2534081] [-0.57605624]
300 0.043443877 [1.2414987] [-0.5489836]
320 0.0394564 [1.2301493] [-0.5231833]
340 0.035834935 [1.2193329] [-0.49859545]
360 0.032545824 [1.2090251] [-0.47516325]
380 0.029558638 [1.1992016] [-0.45283225]
400 0.026845641 [1.18984] [-0.4315508]
420 0.024381675 [1.1809182] [-0.41126958]
440 0.02214382 [1.1724157] [-0.39194146]
460 0.020111356 [1.1643128] [-0.37352163]
480 0.018265454 [1.1565907] [-0.35596743]
500 0.016588978 [1.1492316] [-0.33923826]
520 0.015066384 [1.1422179] [-0.3232953]
540 0.01368351 [1.1355343] [-0.30810148]
560 0.012427575 [1.1291647] [-0.29362184]
580 0.011286932 [1.1230947] [-0.2798227]
600 0.010250964 [1.1173096] [-0.26667204]
620 0.009310094 [1.1117964] [-0.25413945]
640 0.008455581 [1.1065423] [-0.24219586]
660 0.0076795053 [1.1015354] [-0.23081362]
680 0.006974643 [1.0967635] [-0.21996623]
700 0.0063344706 [1.0922159] [-0.20962858]
720 0.0057530706 [1.0878822] [-0.19977672]
740 0.0052250377 [1.0837522] [-0.19038804]
760 0.004745458 [1.0798159] [-0.18144041]
780 0.004309906 [1.076065] [-0.17291337]
800 0.003914324 [1.0724902] [-0.16478711]
820 0.0035550483 [1.0690835] [-0.1570428]
840 0.0032287557 [1.0658368] [-0.14966238]
860 0.0029324207 [1.0627428] [-0.14262886]
880 0.0026632652 [1.059794] [-0.13592596]
900 0.0024188235 [1.056984] [-0.12953788]
920 0.0021968128 [1.0543059] [-0.12345006]
940 0.001995178 [1.0517538] [-0.11764836]
960 0.0018120449 [1.0493214] [-0.11211928]
980 0.0016457299 [1.0470035] [-0.10685005]
1000 0.0014946823 [1.0447946] [-0.10182849]
1020 0.0013574976 [1.0426894] [-0.09704296]
1040 0.001232898 [1.0406833] [-0.09248237]
1060 0.0011197334 [1.038771] [-0.08813594]
1080 0.0010169626 [1.0369489] [-0.08399385]
1100 0.0009236224 [1.0352125] [-0.08004645]
1120 0.0008388485 [1.0335577] [-0.07628451]
1140 0.0007618535 [1.0319806] [-0.07269943]
1160 0.0006919258 [1.0304775] [-0.06928282]
1180 0.00062842044 [1.0290452] [-0.06602671]
1200 0.0005707396 [1.0276802] [-0.06292368]
1220 0.00051835255 [1.0263793] [-0.05996648]
1240 0.00047077626 [1.0251396] [-0.05714824]
1260 0.00042756708 [1.0239582] [-0.0544625]
1280 0.00038832307 [1.0228322] [-0.05190301]
1300 0.00035268333 [1.0217593] [-0.04946378]
1320 0.0003203152 [1.0207369] [-0.04713925]
1340 0.0002909189 [1.0197623] [-0.0449241]
1360 0.00026421514 [1.0188333] [-0.04281275]
1380 0.0002399599 [1.0179482] [-0.04080062]
1400 0.00021793543 [1.0171047] [-0.03888312]
1420 0.00019793434 [1.0163009] [-0.03705578]
1440 0.00017976768 [1.0155348] [-0.03531429]
1460 0.00016326748 [1.0148047] [-0.03365463]
1480 0.00014828023 [1.0141089] [-0.03207294]
1500 0.00013467176 [1.0134459] [-0.03056567]
1520 0.00012231102 [1.0128139] [-0.02912918]
1540 0.0001110848 [1.0122118] [-0.0277602]
1560 0.000100889745 [1.0116379] [-0.02645557]
1580 9.162913e-05 [1.011091] [-0.02521228]
1600 8.322027e-05 [1.0105698] [-0.02402747]
1620 7.5580865e-05 [1.0100728] [-0.02289824]
1640 6.8643785e-05 [1.0095996] [-0.02182201]
1660 6.234206e-05 [1.0091484] [-0.02079643]
1680 5.662038e-05 [1.0087185] [-0.01981908]
1700 5.142322e-05 [1.0083088] [-0.01888768]
1720 4.6704197e-05 [1.0079182] [-0.01800001]
1740 4.2417145e-05 [1.0075461] [-0.01715406]
1760 3.852436e-05 [1.0071915] [-0.01634789]
1780 3.4988276e-05 [1.0068535] [-0.01557961]
1800 3.1776715e-05 [1.0065314] [-0.01484741]
1820 2.8859866e-05 [1.0062244] [-0.0141496]
1840 2.621177e-05 [1.005932] [-0.01348464]
1860 2.380544e-05 [1.0056531] [-0.01285094]
1880 2.1620841e-05 [1.0053875] [-0.012247]
1900 1.9636196e-05 [1.0051342] [-0.01167146]
1920 1.7834054e-05 [1.004893] [-0.01112291]
1940 1.6197106e-05 [1.0046631] [-0.01060018]
1960 1.4711059e-05 [1.004444] [-0.01010205]
1980 1.3360998e-05 [1.0042351] [-0.00962736]
2000 1.21343355e-05 [1.0040361] [-0.00917497]

Process finished with exit code 0

이때 값을 따로 넘겨 주는 방법도 있다. Placeholders와 feed_dict을 이용해서처리 한다.

import tensorflow as tf
tf.set_random_seed(777)  # for reproducibility

# Try to find values for W and b to compute Y = W * X + b
W = tf.Variable(tf.random_normal([1]), name="weight")
b = tf.Variable(tf.random_normal([1]), name="bias")

# placeholders for a tensor that will be always fed using feed_dict
# See http://stackoverflow.com/questions/36693740/
X = tf.placeholder(tf.float32, shape=[None])
Y = tf.placeholder(tf.float32, shape=[None])

# Our hypothesis is X * W + b
hypothesis = X * W + b

# cost/loss function
cost = tf.reduce_mean(tf.square(hypothesis - Y))

# optimizer
train = tf.train.GradientDescentOptimizer(learning_rate=0.01).minimize(cost)

# Launch the graph in a session.
with tf.Session() as sess:
    # Initializes global variables in the graph.
    sess.run(tf.global_variables_initializer())

    # Fit the line
    for step in range(2001):
        _, cost_val, W_val, b_val = sess.run(
            [train, cost, W, b], feed_dict={X: [1, 2, 3], Y: [1, 2, 3]}
        )
        if step % 20 == 0:
            print(step, cost_val, W_val, b_val)

    # Testing our model
    print(sess.run(hypothesis, feed_dict={X: [5]}))
    print(sess.run(hypothesis, feed_dict={X: [2.5]}))
    print(sess.run(hypothesis, feed_dict={X: [1.5, 3.5]}))

결과는 유사하다.

# Learns best fit W:[ 1.], b:[ 0]

 

cf. 모델은 이선형 함수의 가설의 cost값이 베스트값에 가까워 지는 것이다.

 

다음은 minimize 처리를 한다.