tensorflow で K-means法

元ネタはFIRST CONTACT WITH TENSORFLOWという本で、参照元はK-Means.ipynb

import tensorflow as tf
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
from numpy.random import normal

def kmeans(num_points, k):
    vectors_set = [(normal(0.0, 0.9), normal(0.0, 0.9)) for _ in range(int(num_points/2))]
    vectors_set.extend((normal(3.0, 0.5), normal(1.0, 0.5)) for _ in range(int(num_points/2)))

    vectors= tf.constant(vectors_set)
    centroides = tf.Variable(tf.slice(tf.random_shuffle(vectors), [0, 0], [k, -1]))

    expanded_vectors = tf.expand_dims(vectors, 0)
    expanded_centroides = tf.expand_dims(centroides, 1)

    sub = tf.sub(expanded_vectors, expanded_centroides)
    square = tf.square(sub)
    sum = tf.reduce_sum(square, 2)
    assignments = tf.argmin(sum, 0)

    means = tf.concat(0, [tf.reduce_mean(tf.gather(vectors, tf.reshape(tf.where(tf.equal(assignments, c)), [1, -1])),
                                         reduction_indices=[1]) for c in range(k)])
    update_centroides = tf.assign(centroides, means)


    init_op = tf.initialize_all_variables()
    sess = tf.Session()
    sess.run(init_op)

    epoch = 2000
    for step in range(epoch):
        _, centroid_values, assignment_values = sess.run([update_centroides, centroides, assignments])

    data = {"x":[], "y":[], "cluster":[]}
    for i in range(len(assignment_values)):
        data["x"].append(vectors_set[i][0])
        data["y"].append(vectors_set[i][1])
        data["cluster"].append(assignment_values[i])
    df = pd.DataFrame(data)
    sns.lmplot("x", "y", data=df, fit_reg=False, size=6, hue="cluster", legend=False)

    plt.show()

if __name__ == "__main__":
    kmeans(4000, 20)

k = 4の場合、



k=10の場合、






















【使われている関数群】
tf.expand_dims(input, dim, name=None)
inputのtensorにdimの場所へ次元を追加する。
例えば、スカラーをベクトルへ、ベクトルをマトリックスへ変換する。
この例では差を計算（tf.sub）するためにあえて次元を追加している。

tf.concat(concat_dim, values, name='concat')
テンソルをくっつける。
concat_dimでくっつける次元を選べる。

a = tf.constant([[1,2],[3,4]])
b = tf.constant([[5,6],[7,8]])
c0 = tf.concat(0,[a,b])
c1 = tf.concat(1,[a,b])
sess = tf.Session()
r0, r1 = sess.run([c0,c1])
print(r0)
print(r1)
実行御結果は以下
[[1 2]
 [3 4]
 [5 6]
 [7 8]]

[[1 2 5 6]
 [3 4 7 8]]

コメント

コメントを投稿

このブログの人気の投稿

slackでgeneralの投稿を全削除する

イメージ
最近slackも日本語化して、海外との槍とも多いことからchatworkからslackへ移行しています。 slackは概ね満足なのですが、１点不満を言うとすれば、ワークスペースという一旦大きなくくりを作らないといけないので、LINEのグループみたいなものを作る点がやや億劫です。 ですが、その点を除けば、概ね機能性は他のサービスの上位互換な気がしています。。。 Slackを仕事で暫く使用しているとると困ったことが発生しました。 それは、generalというデフォルトのチャネルに関してで、全メンバー公開のこのチャネルに色々投稿していたのですが、プロジェクトの途中に権限レベルの異なるメンバーが参加し、そのメンバには見せられない情報をgeneralに投稿してしまっていたからで、当初はgeneralにアクセス制限かければと考えたのですがどうにもそれはできない仕様になっており別の対策をする必要が発生しました。 ということで、今回は以下の対応を取りました。 1. generalの内容をエクスポート 2. generalの内容を別のプライベートチャネルにインポート 3. generalの内容を全削除 1と2はslackの機能で対応可能です。 3は対応できなかったのでPythonで削除することにしました（もちろん手動で一つ一つ削除することは可能です） なお、以下の手順は実行者がオーナーの場合を想定しています。 権限が無ければエクスポート等できない操作があります。 1.generalの内容をエクスポート 以下にアクセスして「エクスポートを開始」をクリックします。 データのエクスポート ※ 事前にワークスペースにログインしておく必要があります。 そのまま準備が完了するまで待ちます。 適当なタイミングで画面リフレッシュ（F5)すると「ダウンロード可能」の文言が現れますのでこれをクリックするとエクスポートファイルをダウンロードできます。 (参考) ワークスペースの管理 2.generalの内容を別のプライベートチャネルにインポート 以下にアクセスして「Slack」行の「インポート」ボタンをクリックします。 データのインポート 「ファイルを選択」ボタンをクリックして先ほどエクスポートしたファイルを選択し、 「インポー...
続きを読む

Python SQLite スレッド間でコネクションの使いまわしは出来ない

以下のエラーが出た。 ProgrammingError: SQLite objects created in a thread can only be used in that same thread.The object was created in thread id 5052 and this is thread id 3176 SQLiteのオブジェクトは作成されたスレッドでしか使えない。とのこと。 そういうもんなのか。。。ちょっと面倒。 ■ サンプルプログラム import sqlite3 class CreateConnection(threading.Thread): connection = sqlite3.connect(':memory:') def __init__(self): threading.Thread.__init__(self) def run(self): sql = 'SELECT col1 from TEST_TABLE' self.connection.cursor().execute(sql) if __name__ == '__main__': sql = "CREATE TABLE TEST_TABLE ( col1 INTEGER );" sqlite3.connect(':memory:').cursor().execute(sql) CreateConnection().start()
続きを読む

slackで投稿内容を自動翻訳する（3/5）slackにおけるメッセージの構造

前回 に引き続きslackで投稿内容を自動翻訳の２回目。 今回はslackのメッセージの構造を見ていきます。 １． Pythonからgoogle翻訳（googletransの使い方） ２． Pythonプログラムからメッセージを投稿 ３．slackにおけるメッセージの構造（今回） ４．投稿イベントを検知して投稿（準備中） ５．投稿されたメッセージを翻訳して投稿（準備中） ３－１．メッセージはテキストだけではない 普段slackでメッセージやり取りしていると、大抵はテキストメッセージだけですが、例えば、zendeskからメッセージをticket情報を飛ばすと以下のような表示になり、単にテキストだけでなく構造を持っているということが分かります。 このようなデータがslack上でどのように構造化されているのか見てみます。 以下のページ中段の「Response」セッションにサンプルが記載されています。 slack API chat.postMessage "message" : { "text" : "Here's a message for you" , "username" : "ecto1" , "bot_id" : "B19LU7CSY" , "attachments" : [ { "text" : "This is an attachment" , "id" : 1 , "fallback" : "This is an attachment's fallback" } ], "type" : "message" , "subtype" : ...
続きを読む