Keras Dense 레이어: 정확하게 사용하는 방법

import tensorflow as tf
from tensorflow.keras import layers

# batch_size가 1인 무작위 입력 특징 모양을 만듭니다.
inputs = tf.random.uniform(shape=(1,3)) # (batch_size, num_features)

# 완전하게 연결된 레이어를 초기화합니다(단순화를 위해 편향을 사용하지 않을 것입니다).
dense_layer = layers.Dense(unit=4, use_bias=False)

# 출력으로 무엇을 기대할 수 있나요?
print(dense_layer(inputs))
>>> tf.Tensor([[-0.07313907  0.31886736 -0.83136106  0.47411117]], shape=(1, 4), dtype=float32)

print(dense_layer.weights)
>>> [<tf.Variable 'dense_1/kernel:0' shape=(3, 4) dtype=float32, numpy=
 array([[-0.18026423,  0.8457761 ,  0.20618927,  0.34542954],
        [-0.68638337, -0.09881872, -0.891773  ,  0.7983763 ],
        [ 0.84850013, -0.5968083 , -0.522443  , -0.62690055]],
       dtype=float32)>]

# 1이 배치 크기인 모양(1, 2, 3)의 상수 입력을 초기화합니다.
inputs = tf.constant(
    [[[1, 1, 1], [2, 2, 2]]]
)
# 평탄 레이어 초기화
flatten = layers.Flatten()
# 출력으로 무엇을 기대할 수 있나요?
outputs = flatten(inputs)
print(outputs)
>>> tf.Tensor([[1 1 1 2 2 2]], shape=(1, 6), dtype=int32)

dense_layer = layers.Dense(
    units=4, # 이 완전하게 연결된 레이어 안에 4개의 뉴런이 있습니다.
    use_bias=False,
    kernel_initializer=tf.keras.initializers.Constant(value=0.5) # 가중치는 상수값 0.5로 초기화됩니다.
)

# 출력으로 무엇을 기대할 수 있나요?
print(dense_layer(outputs))
>>> tf.Tensor([[4.5 4.5 4.5 4.5]], shape=(1, 4), dtype=float32)

# 입력은 배치 크기는 1이고 시간 축은 2인 모양(1, 2, 3)입니다.
inputs = tf.constant(
    [[[1, 1, 1], [2, 2, 2]]]
)

# 입력의 순위가 2 이상입니까?
print(tf.rank(inputs))
>>> <tf.Tensor: shape=(), dtype=int32, numpy=3>

# Dense 레이어를 4개의 출력 뉴런과 상수 가중치 0.5로 초기화합니다.
dense_layer = layers.Dense(
    units=4,
    use_bias=False,
    kernel_initializer=tf.keras.initializers.Constant(value=0.5)
)

# 예측되는 출력은 무엇이어야 합니까?
print(dense_layer(inputs))
>>> tf.Tensor(
[[[1.5 1.5 1.5 1.5]
  [3.  3.  3.  3. ]]], shape=(1, 2, 4), dtype=float32)

print(dense_layer.weights)
>>> [<tf.Variable 'dense_5/kernel:0' shape=(3, 4) dtype=float32, numpy=
 array([[0.5, 0.5, 0.5, 0.5],
        [0.5, 0.5, 0.5, 0.5],
        [0.5, 0.5, 0.5, 0.5]], dtype=float32)>]

# 이 dense 레이어는 매 ‘시간’마다 적용됩니다.
dense_layer = layers.Dense(
    units=4,
    use_bias=False,
    kernel_initializer=tf.keras.initializers.Constant(value=0.5)
)
# `TimeDistributed` 레이어를 초기화하세요.
timedistributed = layers.TimeDistributed(dense_layer)
# 예측되는 출력은 무엇이어야 합니까?
print(timedistributed(inputs))
>>> tf.Tensor(
[[[1.5 1.5 1.5 1.5]
  [3.  3.  3.  3. ]]], shape=(1, 2, 4), dtype=float32)

def MLPModel():
    inputs = layers.Input(shape=(10,))
    x = layers.Dense(configs["hidden_units"], activation="relu")(inputs)
    outputs = layers.Dense(10, activation="softmax")(x)

    return models.Model(inputs, outputs)