Önemli Olan On TensorFlow 2.0 Güncellemesi

TensorFlow 2.0 alpha artık yayımlandı. Çerçeve, derin öğrenme topluluğu üzerinde önemli bir etkiye sahip. Uygulayıcılar, araştırmacılar, geliştiriciler bu çerçeveyi sevdi ve hiç olmadığı kadar benimsedi. Bugün gördüğümüz süper havalı, derin öğrenme destekli uygulamaların ivme kazanmasının başlıca nedenlerinden biri olduğu rahatlıkla söylenebilir. Bununla birlikte, TensorFlow 1.x’in de (diğer birçok çerçeve gibi) eksileri vardı. Martin Wicke’nin (TensorFlow ekibinden Yazılım Mühendisi) TF Dev Summit '19’da söylediği gibi -

1.0’dan bu yana çok şey öğrendik.

Geniş kullanıcı tabanından, GitHub konularından edinilen tüm derslerle TensorFlow ekibi, performans, kullanıcı deneyimi vb. iyileştirmeleri için önemli sayıda değişiklik içeren TensorFlow 2.0 alpha sürümünü yayımladı. Hızlı prototipleme olanağı sağlar ve birçok modern derin öğrenme pratiğini içerir. Bu yazıda bu değişikliklerin bir kısmını doğrudan uygulamalarla inceleyeceksiniz.

Not: Burada ele alınan güncellemeler, yazara göre en önemli olanlardır. Yazıyı takip edebilmek için daha önce bir miktar TensorFlow ve Keras deneyimine sahip olmanız gerekir. Aşağıda, TensorFlow ve Keras konularında tazeleme arıyorsanız işinize yarayabilecek bazı kaynaklar yer alıyor:

Kurulum ve Örnek Bir Veri Kümesi

TensorFlow 2.0’a güncelleme yapmak için Jupyter Notebook’ta aşağıdaki satırı çalıştırmanız yeterli:

!pip install tensorflow==2.0.0-alpha0

GPU varyantı da aynı şekilde kurulabilir (öncesinde CUDA gerektirir):

!pip install tensorflow-gpu==2.0.0-alpha0

Kurulum süreci hakkında daha fazlasını buradan bulabilirsiniz.

İnceleyeceğiniz bazı güncellemeler, kod uygulamalarını içerir. Bu durumlarda bir veri kümesine ihtiyacınız olacak. Bu yazıda UCI Arşivi’ndeki Adult veri kümesini kullanacaksınız.

import pandas as pd

columns = ["Age", "WorkClass", "fnlwgt", "Education", "EducationNum",
        "MaritalStatus", "Occupation", "Relationship", "Race", "Gender",
        "CapitalGain", "CapitalLoss", "HoursPerWeek", "NativeCountry", "Income"]

data = pd.read_csv('https://archive.ics.uci.edu/ml/machine-learning-databases/adult/adult.data',
                    header=None,
                    names=columns)

data.head()
Altyapı:

	Age	WorkClass	fnlwgt	Education	EducationNum	MaritalStatus	Occupation	Relationship	Race	Gender	CapitalGain	HoursPerWeek	NativeCountry	Income
0	39	State-gov	77516	Bachelors	13	Never-married	Adm-clerical	Not-in-family	White	Male	2174	40	United-States	<=50K
1	50	Self-emp-not-inc	83311	Bachelors	13	Married-civ-spouse	Exec-managerial	Husband	White	Male	0	13	United-States	<=50K
2	38	Private	215646	HS-grad	9	Divorced	Handlers-cleaners	Not-in-family	White	Male	0	40	United-States	<=50K
3	53	Private	234721	11th	7	Married-civ-spouse	Handlers-cleaners	Husband	Black	Male	0	40	United-States	<=50K
4	28	Private	338409	Bachelors	13	Married-civ-spouse	Prof-specialty	Wife	Black	Female	0	40	Cuba	<=50K

Bu veri kümesi, bir dizi kişisel bilgi verilerek bir kişinin yılda 50.000 $’dan fazla kazanıp kazanmayacağını tahmin etmeyi amaçlayan ikili bir sınıflandırma görevini temsil eder.

Biraz temel veri önişleme yapalım ve ardından veriyi 80:20 oranında ayıralım:

from sklearn.preprocessing import LabelEncoder
from sklearn.model_selection import train_test_split
import numpy as np

# Label Encode
le = LabelEncoder()
data = data.apply(le.fit_transform)

# Segregate data features & convert into NumPy arrays
X = data.iloc[:, 0:-1].values
y = data['Income'].values

# Split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=7)
Altyapı:

Şu ana kadar, TensorFlow 2.0 kurulu çalışan bir ortamınız ve çalışma alanınıza yüklenmiş bir veri kümeniz olmalı. Artık güncellemelere geçebilirsiniz.

1. Varsayılan olarak Eager Execution

TensorFlow 2.0’da artık bir oturum oluşturup hesaplama grafiğini onun içinde çalıştırmanız gerekmiyor. Eager execution 2.0 sürümünde varsayılan olarak etkindir; böylece modellerinizi kurup anında çalıştırabilirsiniz. İsterseniz eager execution’ı şu şekilde devre dışı bırakabilirsiniz:

tf.compat.v1.disable_eager_execution() (tensorflow’un tf takma adıyla içe aktarıldığı varsayılır.)

Bu farkı gösteren küçük bir kod karşılaştırması şöyle -

2. tf.function ve AutoGraph

Eager execution size imperatif programlama olanağı sağlarken, dağıtık eğitim, tam ölçekli optimizasyon, üretim ortamları söz konusu olduğunda TensorFlow 1.x tarzı grafik yürütmenin eager execution’a göre avantajları vardır. TensorFlow 2.0’da grafik tabanlı yürütmeleri daha esnek bir şekilde korursunuz. Bu, tf.function ve AutoGraph ile sağlanır.

tf.function, AutoGraph özelliği sayesinde Python tarzı sözdizimiyle TensorFlow grafikleri tanımlamanızı sağlar. AutoGraph, if deyimi, for döngüsü, while döngüsü, Iterator’lar vb. dahil olmak üzere geniş bir Python uyumluluğu sunar. Ancak sınırlamalar da vardır. Mevcut desteklerin tam listesini burada bulabilirsiniz. Aşağıda yalnızca bir decorator ile bir TensorFlow grafiğinin ne kadar kolay tanımlanabileceğini gösteren bir örnek yer alıyor.

import tensorflow as tf

# Define the forward pass
@tf.function
def single_layer(x, y):
    return tf.nn.relu(tf.matmul(x, y))

# Generate random data drawn from a uniform distribution
x = tf.random.uniform((2, 3))
y = tf.random.uniform((3, 5))

single_layer(x, y)
Altyapı:

<tf.Tensor: id=73, shape=(2, 5), dtype=float32, numpy=
array([[0.5779363 , 0.11255255, 0.26296678, 0.12809312, 0.23484911],
       [0.5932371 , 0.1793559 , 0.2845083 , 0.23249313, 0.21367362]],
      dtype=float32)>
Altyapı:

single_layer() işlevini çalıştırmak için herhangi bir oturum veya placeholder oluşturmanız gerekmediğine dikkat edin. Bu, tf.function’ın kullanışlı özelliklerinden biridir. Arka planda, kodunuzun daha hızlı çalışması için gerekli tüm iyileştirmeleri yapar.

3. `tf.variable_scope` artık gerekmiyor

TensorFlow 1.x’te, tf.layers’ı değişken olarak kullanmak ve yeniden kullanmak için tf.variable bloğunu kullanmanız gerekirdi. Ancak TensorFlow 2.0’da bu artık gerekli değil. TensorFlow 2.0’da merkezde yüksek seviyeli API olarak keras bulunduğundan, tf.layers kullanılarak oluşturulan tüm katmanlar kolayca bir tf.keras.Sequential tanımına yerleştirilebilir. Bu, kodu çok daha okunur kılar ve değişkenleri ve kayıpları da takip edebilirsiniz.

İşte bir örnek:

# Define the model
model = tf.keras.Sequential([
    tf.keras.layers.Dropout(rate=0.2, input_shape=X_train.shape[1:]),
    tf.keras.layers.Dense(units=64, activation='relu'),
    tf.keras.layers.Dropout(rate=0.2),
    tf.keras.layers.Dense(units=64, activation='relu'),
    tf.keras.layers.Dropout(rate=0.2),
    tf.keras.layers.Dense(units=1, activation='sigmoid')
])

# Get the output probabilities
out_probs = model(X_train.astype(np.float32), training=True)
print(out_probs)
Altyapı:

tf.Tensor(
[[1.        ]
 [0.12573627]
 [1.        ]
 ...
 [1.        ]
 [1.        ]
 [1.        ]], shape=(26048, 1), dtype=float32)
Altyapı:

Yukarıdaki örnekte, ham çıktı olasılıklarını almak için model üzerinden eğitim verilerini geçirdiniz. Bu yalnızca bir ileri beslemedir. Elbette modelinizi eğitmeye devam edebilirsiniz -

model.compile(loss='binary_crossentropy', optimizer='adam')

model.fit(X_train, y_train,
              validation_data=(X_test, y_test),
              epochs=5, batch_size=64)
Altyapı:

Train on 26048 samples, validate on 6513 samples
Epoch 1/5
26048/26048 [==============================] - 2s 62us/sample - loss: 79.5270 - val_loss: 0.7142
Epoch 2/5
26048/26048 [==============================] - 1s 48us/sample - loss: 2.0096 - val_loss: 0.5894
Epoch 3/5
26048/26048 [==============================] - 1s 47us/sample - loss: 0.8750 - val_loss: 0.5761
Epoch 4/5
26048/26048 [==============================] - 1s 49us/sample - loss: 0.6650 - val_loss: 0.5629
Epoch 5/5
26048/26048 [==============================] - 1s 47us/sample - loss: 0.6885 - val_loss: 0.5539





<tensorflow.python.keras.callbacks.History at 0x7fc2b1944780>
Altyapı:

Modelin katman katman eğitilebilir parametrelerinin listesini şu şekilde alabilirsiniz -

# Model's trainable parameters in a layer by layer fashion
model.trainable_variables
Altyapı:

[<tf.Variable 'dense_12/kernel:0' shape=(14, 64) dtype=float32, numpy=
 array([[-1.48688853e-02,  2.74527162e-01,  2.58149177e-01,
         -2.35980123e-01,  7.92130232e-02, -1.19770452e-01,
          1.83823228e-01,  2.26748139e-01, -1.31252930e-01,
         -1.67176753e-01,  1.43430918e-01,  2.32805759e-01,
          2.47395486e-01,  8.89694989e-02,  1.75705254e-02,
         -2.01672405e-01,  2.01087326e-01, -1.67460442e-01,
         -1.03051037e-01, -2.56078333e-01, -6.07236922e-02,
          4.76933420e-02, -4.65645194e-02,  2.20712095e-01,
          1.98741913e-01,  9.32294428e-02,  1.51318759e-01,
         -3.96257639e-03, -1.51869521e-01,  8.89182389e-02,
         -4.22340333e-02,  1.55168772e-03, -7.01716542e-03,
         -8.23616534e-02, -1.85766399e-01, -1.97881564e-01,
          1.94241285e-01,  2.11566478e-01, -1.68947518e-01,
         -2.34904587e-01, -8.28040987e-02, -1.37671828e-02,
          3.46715450e-02,  9.42899585e-02,  9.07505751e-02,
          2.64314085e-01,  4.13734019e-02, -1.75569654e-02,
          2.49794573e-01,  2.40060896e-01,  1.24608070e-01,
         -2.27075279e-01, -1.13472998e-01, -1.09154880e-01,
         -2.51923293e-01,  2.43190974e-01,  2.63507813e-01,
          1.83881164e-01,  5.65617085e-02, -2.68286765e-01,
          1.78039759e-01,  6.91905916e-02, -2.60141104e-01,
         -2.56884694e-02],
        [-1.60553172e-01,  1.84462130e-01, -1.64327353e-01,
         -2.02879310e-03, -1.35839581e-02, -2.11382195e-01,
         -1.51656792e-01, -1.50204003e-02,  1.61570847e-01,
         -1.29508615e-01, -1.70697004e-01, -2.11556107e-01,
          2.15181440e-01,  2.67737001e-01, -1.19572535e-01,
          1.15734965e-01, -5.27024269e-02,  4.56553698e-02,
         -1.80567816e-01, -1.51056111e-01, -2.31304854e-01,
         -1.31544277e-01,  1.42878979e-01, -8.88223648e-02,
         -2.77194977e-01,  1.98713481e-01,  1.64229482e-01,
         -8.50015134e-02,  1.04941219e-01,  2.73275048e-01,
          2.01503932e-02,  2.22145498e-01,  1.61160469e-01,
          5.18816710e-02, -1.18925110e-01,  2.20809698e-01,
          9.16796625e-02, -1.24019340e-01, -1.42927185e-01,
         -1.58376783e-01,  8.95256698e-02, -1.36581853e-01,
         -9.74076241e-02, -2.06318110e-01,  4.34296429e-02,
          1.48526222e-01, -2.64008492e-01,  2.33468860e-01,
         -1.74503058e-01, -2.60894388e-01,  1.12190038e-01,
         -1.72933638e-01,  1.87754840e-01,  5.69777489e-02,
          9.31494832e-02,  9.37287509e-02, -2.24829912e-01,
         -5.65375686e-02, -2.31988132e-01, -5.92674166e-02,
         -2.54451334e-01, -1.28820181e-01,  1.57452404e-01,
          2.53181010e-01],
        [-8.94532055e-02, -7.04574287e-02, -2.74045289e-01,
         -2.29278371e-01, -1.12556815e-02, -4.37867343e-02,
          6.96483850e-02, -2.20679641e-02, -8.04719925e-02,
         -4.27710414e-02, -6.98548555e-03,  5.35116494e-02,
         -1.54523849e-02, -1.36115998e-01,  1.38038993e-01,
         -1.85180068e-01,  2.15847164e-01,  2.55365819e-01,
          1.37135267e-01,  1.90906912e-01, -2.23682523e-02,
          1.52650058e-01,  2.04477787e-01, -4.36266363e-02,
          1.78499818e-01,  1.90241158e-01, -2.02745885e-01,
          1.43350720e-01, -1.13368660e-01, -2.01326758e-01,
         -1.61648542e-01,  2.25443751e-01, -2.68535197e-01,
          2.37828940e-01,  2.71143168e-01,  1.59860253e-02,
          1.41094506e-01, -1.76632628e-01,  1.88476801e-01,
          2.02816904e-01, -1.03268191e-01, -2.36591846e-01,
          1.79396987e-01,  1.70014054e-01, -2.30597705e-01,
          2.61288881e-03, -4.42424417e-03, -3.84955704e-02,
          2.72334903e-01, -4.91250306e-02,  1.07610583e-01,
         -2.72850186e-01, -2.71188200e-01, -1.15645885e-01,
          2.53611356e-01, -1.48682937e-01, -4.46224958e-02,
         -6.12093955e-02, -2.67423481e-01, -1.97976261e-01,
          4.02505398e-02,  8.28173161e-02,  1.94115847e-01,
          6.79514706e-02],
        [ 1.02568567e-02, -2.73051471e-01,  1.93972498e-01,
          1.67789280e-01, -7.65820295e-02,  1.69053733e-01,
         -1.67652726e-01, -1.12306148e-01,  1.29045337e-01,
          5.20431995e-03,  1.22617424e-01,  2.59980887e-01,
          2.37120360e-01,  2.59193987e-01,  1.71425581e-01,
          2.73495167e-01, -3.11368108e-02,  2.11496860e-01,
         -2.26072937e-01, -9.43622887e-02,  2.56022662e-01,
          1.86894894e-01, -2.35674426e-01, -9.95516777e-03,
          1.84704363e-01,  2.27636904e-01, -1.74311996e-02,
         -1.57380402e-02, -1.43433169e-01, -1.87973380e-02,
          1.76340997e-01, -1.85148180e-01,  1.91334367e-01,
          1.00137413e-01, -2.62901902e-01, -8.22693110e-03,
         -1.17425114e-01, -2.61702567e-01, -2.40183711e-01,
         -7.42957443e-02, -2.43198499e-01,  1.00527972e-01,
         -1.11117616e-01, -9.74197388e-02, -1.09167382e-01,
         -7.14137256e-02,  2.48018056e-01, -3.86851579e-02,
          4.26724553e-02, -2.99333185e-02,  2.41537303e-01,
         -2.68284887e-01,  8.95127654e-03, -3.74048352e-02,
          4.77899015e-02,  2.41122097e-01,  1.11537516e-01,
         -3.37415487e-02, -1.43319309e-01, -1.34244651e-01,
          1.61695689e-01, -1.83817685e-01,  5.05107641e-02,
          2.74721473e-01],
        [ 3.05238366e-02,  4.31960225e-02,  1.15660310e-01,
          2.01156676e-01,  8.93190503e-03, -1.82507738e-01,
         -1.66644901e-01,  2.53293186e-01,  9.39259827e-02,
          2.66437620e-01,  1.03438407e-01,  6.01558089e-02,
         -5.76229393e-02,  1.00222319e-01, -8.71886164e-02,
          2.47991115e-01,  2.03391343e-01, -5.64218462e-02,
         -1.81319863e-01, -1.78091347e-01,  1.94970667e-02,
          2.73696750e-01,  2.22271591e-01, -1.62375182e-01,
         -1.20849550e-01, -5.32025993e-02, -7.60249197e-02,
         -3.30891609e-02, -1.34273469e-01, -7.55624324e-02,
          1.07143939e-01,  2.12463081e-01,  7.97367096e-03,
         -6.87274337e-03, -8.43367577e-02,  2.55893081e-01,
          1.24732047e-01,  3.09056938e-02,  8.86841714e-02,
         -2.23312736e-01,  1.97805136e-01,  2.18041629e-01,
          3.45717669e-02, -4.20909375e-02,  5.96292019e-02,
          1.79306090e-01,  2.72990197e-01,  3.02815437e-02,
          2.37860054e-01,  2.76284903e-01,  3.77161503e-02,
          2.26478606e-01,  8.85216296e-02, -1.82998061e-01,
         -1.41343147e-01, -3.46849561e-02, -2.34851494e-01,
          1.46038651e-01, -1.52093291e-01, -8.06826651e-02,
          8.09380412e-03,  2.53538191e-02, -1.27880573e-02,
          1.55383885e-01],
        [-1.07118145e-01,  2.71667391e-01, -1.35462150e-01,
          8.78523886e-02,  8.47310722e-02, -3.18741649e-02,
         -1.72285080e-01,  9.50790346e-02, -7.42185712e-02,
         -1.69902325e-01, -8.20439905e-02, -3.02564055e-02,
          1.61808312e-01,  6.13009930e-03,  4.78896201e-02,
         -1.39527738e-01, -1.96388185e-01, -9.79056209e-02,
          8.11750889e-02, -8.75651240e-02, -3.17215472e-02,
          2.24185854e-01,  1.03506386e-01,  2.46435404e-03,
         -1.83918521e-01, -1.77772760e-01, -1.59666687e-01,
         -5.00660688e-02, -1.95413038e-01,  2.49774963e-01,
          2.11800635e-01,  7.34189749e-02, -1.63613647e-01,
          1.28584713e-01, -2.04943165e-01,  4.48526740e-02,
         -9.40444320e-02, -2.36514211e-01,  4.40850854e-02,
         -7.21262991e-02,  5.26860356e-03,  2.54257828e-01,
         -1.71898901e-02, -1.66287631e-01, -4.29128110e-02,
          3.84885073e-02,  1.63391858e-01, -1.09616295e-01,
          2.26927966e-01, -2.67344981e-01,  1.98232234e-01,
          1.29737794e-01,  2.69295484e-01, -2.23180622e-01,
         -1.87438726e-03, -5.20526767e-02,  9.74531174e-02,
         -1.05390891e-01,  1.23165011e-01,  2.33101934e-01,
         -2.56039590e-01,  2.46387571e-01,  1.33860320e-01,
          1.71753883e-01],
        [ 2.46957332e-01, -4.92525846e-02, -2.22080618e-01,
          4.05346751e-02, -5.00992537e-02, -2.60361612e-01,
          1.50414556e-01,  2.01799482e-01, -2.87890434e-03,
          9.51286852e-02, -5.86918592e-02,  2.12740213e-01,
         -1.76745623e-01, -2.74649799e-01,  2.05127060e-01,
         -4.51588929e-02, -1.18441284e-02,  1.17566496e-01,
          2.14967847e-01,  2.30442315e-01, -2.03341544e-02,
          7.21938014e-02,  1.91002727e-01, -2.73522615e-01,
         -1.07315734e-01,  1.57117695e-01, -7.27429241e-02,
          1.98784769e-01,  1.34299874e-01, -2.60534406e-01,
          8.44456553e-02,  5.92016876e-02, -8.88088793e-02,
          9.40183103e-02,  8.87127221e-02, -9.60084200e-02,
          2.42618769e-01,  9.65010524e-02,  6.18630648e-03,
          1.61135674e-01, -3.82966697e-02,  1.02110088e-01,
         -1.88043356e-01,  6.97199404e-02,  2.39620298e-01,
          5.69199026e-02, -1.25965476e-01, -8.32125545e-02,
         -8.48805904e-03,  1.70814633e-01,  2.38609940e-01,
          9.24529135e-02,  9.29380953e-02, -1.60003811e-01,
         -2.04197079e-01,  2.51140565e-01,  2.41884738e-01,
         -2.46104851e-01,  6.61611557e-03, -2.67855734e-01,
         -7.67029077e-02, -2.74775296e-01,  2.36378461e-01,
         -2.72717297e-01],
        [ 1.63002580e-01, -1.04987592e-01, -1.11121044e-01,
         -2.73849100e-01,  1.99946165e-02,  2.11521506e-01,
          2.06256032e-01,  2.54784852e-01,  2.57405788e-01,
          1.75982475e-01, -1.57612175e-01, -1.88202858e-02,
         -1.82799488e-01, -6.26320094e-02, -9.18765068e-02,
         -1.66230381e-01,  2.42929131e-01, -3.45604420e-02,
          3.02044451e-02, -1.67087615e-02, -9.18568671e-02,
         -1.18204534e-01,  2.26822466e-01, -8.45120549e-02,
          1.58829272e-01, -2.22656310e-01, -1.80833176e-01,
         -1.51249528e-01,  2.30215102e-01, -2.01435268e-01,
          2.50793129e-01,  1.61696225e-01,  1.12378091e-01,
         -8.44676197e-02, -1.86490998e-01,  2.16112882e-01,
         -1.67694584e-01,  8.36035609e-02,  1.36310160e-02,
         -2.36266181e-01,  2.16432512e-02,  2.17068702e-01,
          1.48556292e-01, -6.13741130e-02,  1.84532225e-01,
         -1.20505244e-01,  5.50346076e-02,  1.04375720e-01,
          1.96388662e-01,  2.04656780e-01,  8.99768472e-02,
          1.04485691e-01,  1.16647959e-01, -9.09715742e-02,
          2.40128249e-01,  7.08191991e-02, -1.35386303e-01,
          1.52992904e-02,  2.04906076e-01,  2.08586067e-01,
          2.65424818e-01,  1.74420804e-01,  1.45571589e-01,
         -1.06450215e-01],
        [-1.22071415e-01,  6.90596700e-02, -9.81627107e-02,
         -1.82385862e-01,  3.71887982e-02,  1.33560777e-01,
          6.62094355e-03, -2.25594267e-01, -8.94398540e-02,
         -2.11033255e-01,  2.53058523e-01,  5.08429706e-02,
         -1.27695456e-01, -7.27435797e-02, -1.51305407e-01,
          3.16268504e-02,  2.58970231e-01,  8.51702690e-02,
          2.73242801e-01, -1.25677899e-01, -2.71640301e-01,
         -1.60824418e-01, -2.76342273e-01,  2.24858135e-01,
         -8.03019106e-02, -4.79616970e-02,  4.94971275e-02,
          2.46035010e-01, -1.74869299e-02,  1.85437828e-01,
         -2.01017499e-01, -2.23311543e-01,  2.70765752e-01,
         -2.11389661e-01, -2.26453170e-01,  2.06002831e-01,
          2.16605961e-01,  1.56077802e-01, -2.76331574e-01,
         -7.14364648e-03, -1.25960454e-01,  1.02812976e-01,
          5.37744164e-03, -9.14498568e-02, -2.16731012e-01,
         -4.22561914e-02, -1.18804276e-02, -4.11395282e-02,
         -2.58837283e-01, -9.24162269e-02,  2.24286765e-01,
          1.97664350e-01, -2.04566836e-01,  1.49493903e-01,
          1.82809919e-01,  2.18066871e-01,  2.27073222e-01,
          1.76770508e-01,  1.28788888e-01,  7.43162632e-03,
         -2.44799465e-01,  2.06821591e-01, -9.25005376e-02,
          1.84141576e-01],
        [ 1.05317682e-01,  1.83150172e-02, -6.71321154e-02,
          1.00300103e-01, -2.54237145e-01, -3.71084660e-02,
         -1.02833554e-01, -5.97543716e-02, -2.18547538e-01,
         -8.90600234e-02, -2.40394264e-01, -2.57878542e-01,
         -1.38011947e-01,  2.36597955e-02, -2.27259427e-01,
         -1.65269971e-02,  2.32348710e-01, -1.00096032e-01,
         -2.13123351e-01, -1.40784979e-02, -2.66731352e-01,
         -2.15898558e-01, -5.78602701e-02,  1.08396888e-01,
         -2.02795267e-01, -1.52687684e-01,  2.78952122e-02,
          4.09219265e-02, -5.15770912e-02, -1.81588203e-01,
          2.73707718e-01,  1.09840721e-01, -1.40243679e-01,
         -2.13766873e-01, -1.94679320e-01, -9.15652514e-03,
         -1.61587566e-01,  2.27655083e-01, -1.11349046e-01,
         -1.05967700e-01,  8.99270475e-02,  2.07172066e-01,
          5.06473184e-02,  2.01718628e-01, -1.03773981e-01,
          2.73704678e-01,  4.07311916e-02,  9.41670239e-02,
         -7.51210451e-02,  2.25694746e-01,  4.44093049e-02,
          2.77287036e-01,  2.25879252e-02, -6.58842623e-02,
         -2.06691712e-01, -1.68207854e-01,  1.10538006e-02,
         -1.19143382e-01,  1.65247411e-01, -1.02170840e-01,
          7.17070699e-02, -7.43492991e-02, -7.37106651e-02,
         -1.29226327e-01],
        [ 2.08517313e-02,  8.65581036e-02, -2.01248676e-01,
         -1.06920242e-01,  2.04556465e-01, -5.12601584e-02,
          1.17174774e-01, -1.21960059e-01, -1.31039545e-01,
          1.45936877e-01,  9.38895345e-03, -1.14137828e-02,
          1.54711992e-01,  2.67244726e-01, -7.15402961e-02,
         -2.23028928e-01, -2.71299481e-01, -1.36449203e-01,
         -1.25627816e-02,  3.13916504e-02,  1.73118323e-01,
         -2.17780888e-01, -1.95076853e-01,  1.28784478e-02,
          1.73919499e-01, -2.42948875e-01, -2.14346394e-01,
          5.35857081e-02,  2.67256826e-01, -1.71346068e-02,
         -2.76432812e-01, -1.73468918e-01,  1.22662723e-01,
         -9.96078849e-02, -1.15638345e-01, -2.65158296e-01,
          2.12729961e-01, -2.70184338e-01,  1.08982086e-01,
         -1.14385784e-02,  2.67733067e-01,  2.64605552e-01,
          7.57011771e-02, -8.78878832e-02, -9.69131440e-02,
         -6.81236386e-03,  6.40029907e-02, -1.91579491e-01,
          1.71635926e-01, -2.19610840e-01, -1.01383820e-01,
          1.74940199e-01, -1.23514935e-01, -4.02086824e-02,
          2.65191942e-01, -2.47828737e-01, -5.83019853e-03,
         -1.24326095e-01, -2.10787788e-01, -2.57244408e-02,
         -9.65181738e-02, -1.34586707e-01, -2.63660282e-01,
         -2.33780265e-01],
        [-2.09537894e-01,  1.81803823e-01, -2.23274127e-01,
          2.68277794e-01, -2.12194473e-01,  2.69619197e-01,
         -1.91460058e-01,  1.50443584e-01, -6.01146221e-02,
          1.15322739e-01,  5.74926138e-02, -2.09335685e-01,
          2.66064018e-01, -2.50099152e-01,  2.27989703e-01,
          1.48722529e-03, -2.75823861e-01, -2.74460733e-01,
         -2.54678339e-01,  2.07069367e-01,  2.42757052e-01,
         -8.09566826e-02, -2.22230926e-01,  3.88453007e-02,
         -7.51499534e-02, -1.13763615e-01,  1.86943352e-01,
          1.81314886e-01, -1.03227988e-01,  1.27721041e-01,
          1.00327253e-01, -1.25737816e-01, -9.31653380e-03,
         -1.79606676e-02, -1.99202478e-01,  1.40470475e-01,
         -1.78151071e-01,  3.56182456e-02,  2.09965855e-01,
          9.80757773e-02,  9.55764055e-02,  2.42440253e-01,
          2.26146430e-01, -8.72465968e-03, -2.06995502e-01,
          1.26261711e-01,  1.92399114e-01,  2.21498907e-02,
          2.40556687e-01, -1.17468238e-01, -8.96153450e-02,
          3.64099145e-02,  5.64157963e-05, -9.97322649e-02,
          1.81693852e-01, -1.95398301e-01,  2.67696530e-01,
          2.18172163e-01,  1.50565267e-01, -2.76668876e-01,
         -2.90721059e-02,  6.15487993e-02,  5.47989309e-02,
         -2.45864540e-01],
        [ 1.13498271e-01, -1.24701887e-01, -1.19635433e-01,
          6.81682229e-02,  1.42366707e-01, -5.18653989e-02,
          1.70933545e-01,  4.18927073e-02, -8.23812187e-02,
         -1.72122866e-01,  3.46628726e-02,  2.39999801e-01,
         -4.86224890e-04,  8.29051435e-02, -6.71084374e-02,
         -1.72895417e-01, -2.63225108e-01, -1.55994743e-01,
          8.19830298e-02,  2.49279350e-01, -1.41113624e-01,
          1.25947356e-01, -9.30310488e-02,  2.40998656e-01,
          2.44344383e-01, -1.36330962e-01, -1.14291891e-01,
         -2.29074568e-01,  1.76846683e-01, -7.63051659e-02,
         -6.28410280e-02, -1.43780455e-01, -7.99130350e-02,
         -2.32542127e-01, -3.03542614e-03,  7.96765089e-03,
          2.05407441e-02, -3.18776071e-02, -1.66951925e-01,
         -2.53402591e-01,  1.85931325e-02, -2.08924711e-02,
         -2.02480197e-01, -1.78624660e-01, -9.39854980e-03,
          2.22942740e-01, -7.72327036e-02,  8.92090797e-03,
          5.94776869e-03, -1.45615578e-01, -1.00357220e-01,
         -6.98443055e-02, -1.69289708e-02,  1.10462517e-01,
         -2.50632793e-01,  1.05173588e-01, -1.03613839e-01,
         -1.78682446e-01, -4.74603325e-02,  2.64549822e-01,
          2.41646737e-01, -9.74451900e-02, -1.91499934e-01,
         -2.03671366e-01],
        [ 3.43604088e-02, -4.77244258e-02, -2.74687082e-01,
          1.44897908e-01,  1.87038392e-01, -2.73052067e-01,
         -1.34714529e-01, -1.96854770e-02,  1.78879768e-01,
         -4.30725813e-02, -1.44803524e-02, -4.08369452e-02,
          1.24610901e-01,  1.33537620e-01, -5.67995459e-02,
          1.66517943e-01,  1.21737421e-02, -2.28156358e-01,
          2.42469996e-01, -8.04692805e-02,  2.54256994e-01,
          1.89271569e-02,  1.06245875e-01,  2.76879996e-01,
          1.47841871e-01, -9.83145386e-02,  1.41099930e-01,
         -9.15518403e-03,  2.22966105e-01,  1.95244431e-01,
          2.46362776e-01,  1.43388927e-01,  2.12212205e-01,
         -2.39929557e-02,  2.23469466e-01,  2.43519396e-01,
          2.35615760e-01, -7.24931657e-02, -9.37553197e-02,
          2.35618442e-01,  1.09928012e-01, -2.83769220e-02,
         -1.05210841e-02, -2.18923137e-01, -1.58438280e-01,
         -1.87489986e-02,  1.51137710e-02,  1.77096963e-01,
          7.83360600e-02,  2.20489174e-01, -3.45443189e-02,
          6.89106286e-02,  2.31777161e-01, -1.25984594e-01,
          1.43728256e-02,  2.55063027e-01, -2.42056713e-01,
          8.74229670e-02,  2.20979035e-01, -2.00921297e-03,
          1.69425875e-01, -8.34510028e-02, -1.03761226e-01,
          8.88096690e-02]], dtype=float32)>,
 <tf.Variable 'dense_12/bias:0' shape=(64,) dtype=float32, numpy=
 array([0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.,
        0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.,
        0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.,
        0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.], dtype=float32)>,
 <tf.Variable 'dense_13/kernel:0' shape=(64, 64) dtype=float32, numpy=
 array([[ 0.20200957,  0.03036232,  0.11040972, ..., -0.21020778,
          0.17196609, -0.03736575],
        [-0.2064129 ,  0.13786067,  0.09109865, ..., -0.15494904,
          0.09000905, -0.18967415],
        [-0.0387924 , -0.02436857,  0.16121905, ..., -0.1803377 ,
         -0.00170219,  0.15630807],
        ...,
        [ 0.19548352,  0.10514452, -0.03767221, ...,  0.03404056,
          0.02135798,  0.00550348],
        [-0.16041529, -0.07542154, -0.1700579 , ...,  0.00083075,
          0.11576484,  0.08763643],
        [-0.09544714,  0.08534966, -0.06500863, ...,  0.04508607,
         -0.17440501,  0.1134396 ]], dtype=float32)>,
 <tf.Variable 'dense_13/bias:0' shape=(64,) dtype=float32, numpy=
 array([0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.,
        0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.,
        0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.,
        0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.], dtype=float32)>,
 <tf.Variable 'dense_14/kernel:0' shape=(64, 1) dtype=float32, numpy=
 array([[ 0.17874134],
        [ 0.06660989],
        [ 0.2120269 ],
        [ 0.1908356 ],
        [-0.05980097],
        [ 0.2545969 ],
        [ 0.16937432],
        [ 0.28103924],
        [-0.301428  ],
        [-0.1401844 ],
        [-0.02959338],
        [ 0.10712665],
        [ 0.09891567],
        [-0.28661886],
        [ 0.28736794],
        [ 0.03912222],
        [-0.03885537],
        [-0.25707358],
        [-0.24519518],
        [ 0.11147693],
        [ 0.02554649],
        [-0.20881867],
        [ 0.00373942],
        [ 0.02928248],
        [ 0.09055263],
        [ 0.15126869],
        [-0.11197442],
        [ 0.23908103],
        [ 0.07320437],
        [-0.05635457],
        [ 0.14777556],
        [-0.17251213],
        [-0.02642217],
        [ 0.25192064],
        [-0.15656634],
        [-0.0924283 ],
        [-0.20901027],
        [-0.17767514],
        [-0.15508023],
        [ 0.06313407],
        [ 0.2708218 ],
        [-0.14065444],
        [ 0.12714231],
        [-0.05807959],
        [ 0.17975545],
        [ 0.19628727],
        [-0.24905266],
        [-0.12731928],
        [-0.15389986],
        [-0.15024558],
        [-0.08432762],
        [-0.28963754],
        [-0.07519016],
        [-0.04082993],
        [ 0.13681188],
        [ 0.18757123],
        [ 0.09581241],
        [ 0.09615937],
        [ 0.22277021],
        [ 0.2865938 ],
        [ 0.00316831],
        [-0.27389333],
        [-0.09506477],
        [ 0.01873708]], dtype=float32)>,
 <tf.Variable 'dense_14/bias:0' shape=(1,) dtype=float32, numpy=array([0.], dtype=float32)>]
Altyapı:

4. Özel Katmanlar Çok Kolaylaştı

Makine öğrenmesi araştırmalarında veya endüstriyel uygulamalarda, belirli kullanım senaryolarına uygun özel katmanlar yazma ihtiyacı sıkça doğar. TensorFlow 2.0, özel bir katman yazmayı ve mevcut katmanlarla birlikte kullanmayı son derece kolaylaştırır. Modelinizin ileri beslemesini de istediğiniz şekilde özelleştirebilirsiniz.

Özel bir katman oluşturmak için en kolay seçenek, tf.keras.layers içindeki Layer sınıfını genişletmek ve buna göre tanımlamaktır. Bir özel katman oluşturacak ve ardından ileri hesaplamalarını tanımlayacaksınız. Aşağıda help(tf.keras.layers.Layer) çalıştırıldığında alınan çıktı bulunuyor. Bu işi yapmak için neleri belirtmeniz gerektiğini gösterir:

Yukarıdaki bölümden hareketle şunları yapacaksınız -

Kurucuyu, çıktı sayısını alacak şekilde tanımlayın
build() yönteminde katmanınız için ağırlıkları ekleyin
Son olarak call() yönteminde matris çarpımı ve relu()’yu zincirleyerek ileri beslemeyi tanımlayın

class MyDenseLayer(tf.keras.layers.Layer):
    # Define the constructor
    def __init__(self, num_outputs):
        super(MyDenseLayer, self).__init__()
        self.num_outputs = num_outputs
    # Define the build function to add the weights
    def build(self, input_shape):
        self.kernel = self.add_variable("kernel",
                                    shape=[input_shape[-1],
                                           self.num_outputs])
    # Define the forward pass
    def call(self, input):
        matmul = tf.matmul(input, self.kernel)
        return tf.nn.relu(matmul)

# Initialize the layer with 10 output units
layer = MyDenseLayer(10)
# Supply the input shape
layer(tf.random.uniform((10,3)))
# Display the trainable parameters of the layer
print(layer.trainable_variables)
Altyapı:

[<tf.Variable 'my_dense_layer_7/kernel:0' shape=(3, 10) dtype=float32, numpy=
array([[ 0.43613756,  0.21344548,  0.37803996,  0.65583944,  0.11884308,
         0.13909656,  0.30802298,  0.5313586 ,  0.04967308,  0.32889426],
       [ 0.1680265 , -0.59944266, -0.4014195 ,  0.14887196,  0.07071263,
         0.37862527, -0.5822403 , -0.5963166 ,  0.3106798 ,  0.05353856],
       [-0.44345278, -0.23122305, -0.62959856, -0.43062705,  0.13194847,
        -0.60124606, -0.62745696,  0.12254918, -0.09806103, -0.45324165]],
      dtype=float32)>]
Altyapı:

tf.keras içindeki Model sınıfını genişleterek birden çok katmanı bir araya getirebilirsiniz. Modelleri birleştirme hakkında daha fazlasını burada bulabilirsiniz.

5. Model Eğitiminde Esneklik

TensorFlow, kayıp fonksiyonunun gradyanlarını model parametrelerine göre hesaplamak için otomatik türev alma kullanabilir. tf.GradientTape, bir bağlam içinde bir kaset oluşturur ve TensorFlow bu kasete kaydedilen her hesaplamadan gradyanları takip etmek için bunu kullanır. Bunu anlamak için tf.keras.Model sınıfını genişleterek daha düşük seviyeli bir şekilde bir model tanımlayalım.

from tensorflow.keras import Model

class CustomModel(Model):
    def __init__(self):
        super(CustomModel, self).__init__()
        self.do1 = tf.keras.layers.Dropout(rate=0.2, input_shape=(14,))
        self.fc1 = tf.keras.layers.Dense(units=64, activation='relu')
        self.do2 = tf.keras.layers.Dropout(rate=0.2)
        self.fc2 = tf.keras.layers.Dense(units=64, activation='relu')
        self.do3 = tf.keras.layers.Dropout(rate=0.2)
        self.out = tf.keras.layers.Dense(units=1, activation='sigmoid')

    def call(self, x):
        x = self.do1(x)
        x = self.fc1(x)
        x = self.do2(x)
        x = self.fc2(x)
        x = self.do3(x)
        return self.out(x)

model = CustomModel()
Altyapı:

Bu modelin topolojisinin, daha önce tanımladığınız modelle bire bir aynı olduğuna dikkat edin. Bu modeli otomatik türev alma ile eğitebilmek için kayıp fonksiyonunu ve optimize ediciyi farklı şekilde tanımlamanız gerekir -

loss_func = tf.keras.losses.BinaryCrossentropy()
optimizer = tf.keras.optimizers.Adam()
Altyapı:

Şimdi, ağın eğitiminde performansı ölçmek için kullanılacak metrikleri tanımlayacaksınız. Performanstan kasıt, burada modelin kaybı ve doğruluğudur.

# Average the loss across the batch size within an epoch
train_loss = tf.keras.metrics.Mean(name='train_loss')
train_acc = tf.keras.metrics.BinaryAccuracy(name='train_acc')

valid_loss = tf.keras.metrics.Mean(name='test_loss')
valid_acc = tf.keras.metrics.BinaryAccuracy(name='valid_acc')
Altyapı:

tf.data, girdi veri hatlarını tanımlamak için yardımcı yöntemler sağlar. Bu, özellikle büyük hacimli verilerle uğraşırken çok kullanışlıdır.

Şimdi, modelin eğitimi sırasında veri kümeleri üretecek veri üreticisini tanımlayacaksınız.

X_train, X_test = X_train.astype(np.float32), X_test.astype(np.float32)
y_train, y_test = y_train.astype(np.int64), y_test.astype(np.int64)
y_train, y_test = y_train.reshape(-1, 1), y_test.reshape(-1, 1)

# Batches of 64
train_ds = tf.data.Dataset.from_tensor_slices((X_train, y_train)).batch(64)
test_ds = tf.data.Dataset.from_tensor_slices((X_test, y_test)).batch(64)
Altyapı:

Artık modeli tf.GradientTape kullanarak eğitmeye hazırsınız. Öncelikle, tf.data.DataSet kullanarak az önce tanımladığınız verilerle modeli eğitecek bir yöntem tanımlayacaksınız. Hesaplamada sunduğu hız avantajından yararlanmak için model eğitim adımlarını tf.function decorator’ü ile de sarmalayacaksınız.

Model eğitimi ve doğrulama

# Train the model
@tf.function
def model_train(features, labels):
    # Define the GradientTape context
    with tf.GradientTape() as tape:
        # Get the probabilities
        predictions = model(features)
        # Calculate the loss
        loss = loss_func(labels, predictions)
    # Get the gradients
    gradients = tape.gradient(loss, model.trainable_variables)
    # Update the weights
    optimizer.apply_gradients(zip(gradients, model.trainable_variables))

    train_loss(loss)
    train_acc(labels, predictions)
Altyapı:

# Validating the model
@tf.function
def model_validate(features, labels):
    predictions = model(features)
    t_loss = loss_func(labels, predictions)

    valid_loss(t_loss)
    valid_acc(labels, predictions)
Altyapı:

Yukarıdaki iki yöntemi kullanarak modeli 5 epoch boyunca eğitin ve doğrulayın.

for epoch in range(5):
    for features, labels in train_ds:
        model_train(features, labels)

    for test_features, test_labels in test_ds:
        model_validate(test_features, test_labels)

    template = 'Epoch {}, train_loss: {}, train_acc: {}, train_loss: {}, test_acc: {}'
    print (template.format(epoch+1,
                         train_loss.result(),
                         train_acc.result()*100,
                         valid_loss.result(),
                         valid_acc.result()*100))
Altyapı:

Epoch 1, train_loss: 9.8155517578125, train_acc: 66.32754516601562, train_loss: 2.8762073516845703, test_acc: 78.96514892578125
Epoch 2, train_loss: 10.235926628112793, train_acc: 67.04353332519531, train_loss: 3.508544921875, test_acc: 79.0572738647461
Epoch 3, train_loss: 8.876679420471191, train_acc: 67.97962951660156, train_loss: 4.440890789031982, test_acc: 78.7348403930664
Epoch 4, train_loss: 8.136384963989258, train_acc: 68.46015167236328, train_loss: 3.812603235244751, test_acc: 73.58360290527344
Epoch 5, train_loss: 7.779866695404053, train_acc: 68.70469665527344, train_loss: 3.80180025100708, test_acc: 74.73975372314453
Altyapı:

Bu örnek, TensorFlow 2.0 yazarlarının bu örneğinden esinlenilmiştir.

6. TensorFlow Datasets

Ağ modeliyle şık bir şekilde çalışmak için DataSets adlı ayrı bir modül kullanılır. Bunu önceki örnekte zaten gördünüz. Bu bölümde, MNIST veri kümesini tam istediğiniz şekilde nasıl yükleyebileceğinizi göreceksiniz.

tensorflow_datasets kütüphanesini pip ile kurabilirsiniz. Kurulum tamamlandıktan sonra hazırsınız. Veri kümesi kurulum hattınızı esnek şekilde hazırlamanıza yardımcı olan çeşitli yardımcı işlevler sağlar. Bu işlevler hakkında daha fazlasını buradan ve buradan öğrenebilirsiniz. Şimdi MNIST veri kümesini yüklemek için bir veri giriş hattının nasıl kurulacağını göreceksiniz.

import tensorflow_datasets as tfds

# You can fetch the DatasetBuilder class by string
mnist_builder = tfds.builder("mnist")

# Download the dataset
mnist_builder.download_and_prepare()

# Construct a tf.data.Dataset: train and test
ds_train, ds_test = mnist_builder.as_dataset(split=[tfds.Split.TRAIN, tfds.Split.TEST])
Altyapı:

Uyarıyı yok sayabilirsiniz. tensorflow_datasets’in veri hattını ne kadar zarif bir şekilde ele aldığına dikkat edin.

# Prepare batches of 128 from the training set
ds_train = ds_train.batch(128)

# Load in the dataset in the simplest way possible
for features in ds_train:
    image, label = features["image"], features["label"]
Altyapı:

Şimdi yüklediğiniz görüntü koleksiyonundan ilk görüntüyü gösterebilirsiniz. Not: tensorflow_datasets, eager modda da grafik tabanlı ayarda da çalışır.

import matplotlib.pyplot as plt
%matplotlib inline

# You can convert a TensorFlow tensor just by using
# .numpy()
plt.imshow(image[0].numpy().reshape(28, 28), cmap=plt.cm.binary)
plt.show()
Altyapı:

7. Otomatik Karma Hassasiyet (Mixed Precision) Politikası

Karma hassasiyet politikası geçen yıl NVIDIA tarafından önerildi. Orijinal makaleyi burada bulabilirsiniz. Karma hassasiyetin temel fikri, yarım (FP16) ve tam (FP32) hassasiyetin bir karışımını kullanarak her iki dünyanın da avantajlarından yararlanmaktır. Çok derin sinir ağlarının eğitiminde (hem süre hem de skor açısından) etkileyici sonuçlar göstermiştir.

CUDA etkin bir GPU ortamında (ör. Volta Nesli, Tesla T4) ve TensorFlow 2.0’ın GPU varyantını kurduysanız, TensorFlow’a karma hassasiyette eğitim yapmasını şu şekilde söyleyebilirsiniz -

os.environ['TF_ENABLE_AUTO_MIXED_PRECISION'] = '1'

Bu, bir TensorFlow grafiğinin işlemlerini otomatik olarak uygun şekilde dönüştürür. Modelinizin performansında iyi bir artış görebilirsiniz. TensorFlow çekirdek işlemlerini de karma hassasiyet politikasıyla optimize edebilirsiniz. Daha fazlası için bu makaleye göz atın.

Lütfen dikkat: Bu özellik yalnızca NVIDIA’ın TensorFlow Docker konteynerinde desteklenir. Karma hassasiyetli eğitimi tf.keras içine yerel olarak entegre edebilmek için bu makaleye bakmanızı öneririm. Bunu bana hatırlattığı için Abhishek Thanki’ye teşekkür ederim.

8. Dağıtık Eğitim

TensorFlow 2.0, eğitim sürecini birden fazla GPU’ya dağıtmayı son derece kolaylaştırır. Bu, çok yüksek yükleri karşılamanız gereken üretim amaçları için özellikle kullanışlıdır. Yapmanız gereken, model eğitim bloğunuzu bir with bloğunun içine koymak kadar basittir.

Önce aşağıdaki gibi bir dağıtım stratejisi belirtirsiniz:

mirrored_strategy = tf.distribute.MirroredStrategy()

Yansıtılmış bir strateji, GPU başına bir kopya oluşturur ve model değişkenleri GPU’lar arasında eşit şekilde yansıtılır. Tanımladığınız stratejiyi artık şu şekilde kullanabilirsiniz:

with mirrored_strategy.scope():
    model = tf.keras.Sequential([tf.keras.layers.Dense(1, input_shape=(1,))])
    model.compile(loss='mse', optimizer='sgd')
    model.fit(X_train, y_train,
             validation_data=(X_test, y_test),
             batch_size=128,
             epochs=10)
Altyapı:

Not: Yukarıdaki kod parçası yalnızca tek bir sistemde birden çok GPU yapılandırılmışsa faydalı olacaktır. Yapılandırabileceğiniz bir dizi dağıtım stratejisi vardır. Daha fazlasını burada bulabilirsiniz.

9. Jupyter Notebook İçinde TensorBoard

Muhtemelen bu güncellemenin en heyecan verici kısmı bu. Model eğitimini doğrudan Jupyter Notebook’unuzda TensorBoard aracılığıyla görselleştirebilirsiniz. Yeni TensorBoard, bellek profilleme, karışıklık matrisi dahil görüntü verilerini görüntüleme, kavramsal model grafiği vb. gibi birçok heyecan verici özellikle yüklü geliyor. Daha fazlasını burada bulabilirsiniz.

Bu bölümde, TensorBoard’un Jupyter Notebook içinde görüntülenmesi için ortamınızı yapılandıracaksınız. Önce tensorboard.notebook notebook uzantısını yüklemeniz gerekir -

%load_ext tensorboard.notebook
Altyapı:

Şimdi tf.keras.callbacks modülünü kullanarak TensorBoard geri çağırımını tanımlayacaksınız.

from datetime import datetime
import os

# Make a directory to keep the training logs
os.mkdir("logs")

# Set the callback
logdir = "logs"
tensorboard_callback = tf.keras.callbacks.TensorBoard(log_dir=logdir)
Altyapı:

Modeli tf.keras’ın Sequential API’sini kullanarak yeniden kurun -

# Define the model
model = tf.keras.Sequential([
    tf.keras.layers.Dropout(rate=0.2, input_shape=X_train.shape[1:]),
    tf.keras.layers.Dense(units=64, activation='relu'),
    tf.keras.layers.Dropout(rate=0.2),
    tf.keras.layers.Dense(units=64, activation='relu'),
    tf.keras.layers.Dropout(rate=0.2),
    tf.keras.layers.Dense(units=1, activation='sigmoid')
])

# Compile the model
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])
Altyapı:

Eğitim ve test kümeleri farklı kullanımlar için değiştirilmişti. Bu yüzden tekrar ayırmak iyi bir fikir olacaktır -

# Split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=7)
Altyapı:

Modeli eğitmeye tamamen hazırsınız -

# The TensorBoard extension
%tensorboard --logdir logs/
# Pass the TensorBoard callback you defined
model.fit(X_train, y_train,
         validation_data=(X_test, y_test),
         batch_size=64,
         epochs=10,
         callbacks=[tensorboard_callback],
         verbose=False)
Altyapı:

    <iframe
        width="100%"
        height="800"
        src="http://localhost:6006"
        frameborder="0"
        allowfullscreen
    ></iframe>






<tensorflow.python.keras.callbacks.History at 0x7fc215b69400>
Altyapı:

TensorBoard panosu Jupyter Notebook’unuzda yüklenmeli ve eğitim ile doğrulama metriklerini izleyebilmelisiniz.

10. Swift için TensorFlow

Tüm olağanüstü başarısına rağmen, Python hakkında üzücü olan bir şey onun yavaş olmasıdır. Araştırmacılara, uygulayıcılara ve hatta yeni başlayanlara yardımcı olmak için TensorFlow ekibi Swift için bir sürüm geliştirdi. Python varyantı kadar üretime hazır olmasa da kesinlikle potansiyele sahip. Swift, daha düşük seviyeli etkileşimlere ve gelişmiş derleme modüllerine olanak tanır. TensorFlow’un Swift varyantına ilişkin her şeyi burada bulabilirsiniz. Ayrıca Josh Gordon’ın yaptığı bu röportajı da görmeniz önerilir; burada Jeremy Howard bu yöndeki görüşlerini paylaşıyor.

Sırada Ne Var?

Bu yazının sonuna geldiniz. Derin öğrenmenin güzelliği uygulamadadır. Bir sonraki adımınız, bu yazıda tartışılan fikirleri denemek ve uygulamaya koymak olmalı. Bu TensorFlow güncellemesi, en kapsamlı ve geliştirici dostu güncellemelerden biri. Bu yılın TensorFlow Dev Summit’ine ait YouTube izleme listesini kontrol etmeniz önerilir; burada TensorFlow lattice, TensorFlow probability, TensorFlow lite ve daha fazlasına ilişkin ek güncellemeler bulacaksınız.

Derin öğrenme bilginizi güçlendirmekle ilgileniyorsanız aşağıdaki kurslara göz atabilirsiniz:

Mutlu eager_executing!

Konular

Makine Öğrenimi Python

Konular

Teknolojiler

TensorFlow 2.0’daki On Önemli Güncelleme

Yapay Zeka ile Keşfedin

Kurulum ve Örnek Bir Veri Kümesi

1. Varsayılan olarak Eager Execution

2. tf.function ve AutoGraph

3. `tf.variable_scope` artık gerekmiyor

4. Özel Katmanlar Çok Kolaylaştı

5. Model Eğitiminde Esneklik

Model eğitimi ve doğrulama

6. TensorFlow Datasets

7. Otomatik Karma Hassasiyet (Mixed Precision) Politikası

8. Dağıtık Eğitim

9. Jupyter Notebook İçinde TensorBoard

10. Swift için TensorFlow

Sırada Ne Var?

Konular

Makine Öğrenmesi hakkında daha fazlasını öğrenin

Python ile TensorFlow’a Giriş

Keras ile Görüntü Modellemesi

Keras ile İleri Seviye Deep Learning

İlgili

2026’da En Popüler 40 Yazılım Mühendisi Mülakat Sorusu

Hızlı Sevkiyat İçin Pratik Vibe Kodlama Teknoloji Yığını

Python'da Listeyi String'e Nasıl Dönüştürürsünüz

.gitignore Nasıl Kullanılır: Örneklerle Pratik Bir Giriş

Konular

Teknolojiler

Makine Öğrenmesi hakkında daha fazlasını öğrenin

Python ile TensorFlow’a Giriş

Keras ile Görüntü Modellemesi

Keras ile İleri Seviye Deep Learning

Kurulum ve Örnek Bir Veri Kümesi

1. Varsayılan olarak Eager Execution

2. tf.function ve AutoGraph

3. tf.variable_scope artık gerekmiyor

4. Özel Katmanlar Çok Kolaylaştı

5. Model Eğitiminde Esneklik

Model eğitimi ve doğrulama

6. TensorFlow Datasets

7. Otomatik Karma Hassasiyet (Mixed Precision) Politikası

8. Dağıtık Eğitim

9. Jupyter Notebook İçinde TensorBoard

10. Swift için TensorFlow

Sırada Ne Var?

Konular

Makine Öğrenmesi hakkında daha fazlasını öğrenin

İlgili

Makine Öğrenmesi hakkında daha fazlasını öğrenin

3. `tf.variable_scope` artık gerekmiyor