当前位置: > 投稿>正文

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

01-21 互联网 未知 投稿

关于【桂花的香味作文】,桂花的香味作文200字,今天犇犇小编给您分享一下,如果对您有所帮助别忘了关注本站哦。

1、「Python」零起步数学+神经网络入门

摘要:手把手教你用(Python)零起步数学+神经网络入门!

在这篇文章中,我们将在Python中从头开始了解用于构建具有各种层神经网络(完全连接,卷积等)的小型库中的机器学习和代码。最终,我们将能够写出如下内容:

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

假设你对神经网络已经有一定的了解,这篇文章的目的不是解释为什么构建这些模型,而是要说明如何正确实现

逐层

我们这里需要牢记整个框架:

1. 将数据输入神经网络

2. 在得出输出之前,数据从一层流向下一层

3. 一旦得到输出,就可以计算出一个标量误差

4. 最后,可以通过相对于参数本身减去误差的导数来调整给定参数(权重或偏差)。

5. 遍历整个过程。

最重要的一步是第四步。 我们希望能够拥有任意数量的层,以及任何类型的层。 但是如果修改/添加/删除网络中的一个层,网络的输出将会改变,误差也将改变,误差相对于参数的导数也将改变。无论网络架构如何、激活函数如何、损失如何,都必须要能够计算导数。

为了实现这一点,我们必须分别实现每一层

每个层应该实现什么

我们可能构建的每一层(完全连接,卷积,最大化,丢失等)至少有两个共同点:输入输出数据。

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

现在重要的一部分

假设给出一个层相对于其输出(∂E/∂Y)误差的导数,那么它必须能够提供相对于其输入(∂E/∂X)误差的导数

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

记住,Eæ˜¯æ ‡é‡ï¼ˆä¸€ä¸ªæ•°å­—ï¼‰ï¼ŒX和Y是矩阵。

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

我们可以使用链规则轻松计算∂E/∂X的元素:

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

为什么是∂E/∂X?

对于每一层,我们需要相对于其输入的误差导数,因为它将是相对于前一层输出的误差导数。这非常重要,这是理解反向传播的关键!在这之后,我们将能够立即从头开始编写深度卷积神经网络!

花样图解

基本上,对于前向传播,我们将输入数据提供给第一层,然后每层的输出成为下一层的输入,直到到达网络的末端。

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

对于反向传播,我们只是简单使用链规则来获得需要的导数。这就是为什么每一层必须提供其输出相对于其输入的导数。

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

这可能看起来很抽象,但是当我们将其应用于特定类型的层时,它将变得非常清楚。现在是编写第一个python类的好时机。

抽象基类:Layer

所有其它层将继承的抽象类Layer会处理简单属性,这些属性是输入输出以及前向反向方法。

from abc import abstractmethod# Base classclass Layer: def __init__(self): self.input = None; self.output = None; self.input_shape = None; self.output_shape = None; # computes the output Y of a layer for a given input X @abstractmethod def forward_propagation(self, input): raise NotImplementedError # computes dE/dX for a given dE/dY (and update parameters if any) @abstractmethod def backward_propagation(self, output_error, learning_rate): raise NotImplementedError

正如你所看到的,在back_propagation函数中,有一个我没有提到的参数,它是learning_rate。 此参数应该类似于更新策略或者在Keras中调用它的优化器,为了简单起见,我们只是通过学习率并使用梯度下降更新我们的参数。

全连接层

现在先定义并实现第一种类型的网络层:全连接层或FC层。FC层是最基本的网络层,因为每个输入神经元都连接到每个输出神经元。

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

前向传播

每个输出神经元的值由下式计算:

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

使用矩阵,可以使用点积来计算每一个输出神经元的值:

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

当完成前向传播之后,现在开始做反向传播。

反向传播

正如我们所说,假设我们有一个矩阵,其中包含与该层输出相关的误差导数(∂E/∂Y)。 我们需要 :

1.关于参数的误差导数(∂E/∂W,∂E/∂B)

2.关于输入的误差导数(∂E/∂X)

首先计算∂E/∂W,该矩阵应与W本身的大小相同:对于ixj,其中i是输入神经元的数量,j是输出神经元的数量。每个权重都需要一个梯度

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

使用前面提到的链规则,可以写出:

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

那么:

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

这就是更新权重的第一个公式!现在开始计算∂E/∂B:

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

同样,∂E/∂B需要与B本身具有相同的大小,每个偏差一个梯度。 我们可以再次使用链规则:

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

得出结论:

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

现在已经得到∂E/∂W∂E/∂B,我们留下∂E/∂X这是非常重要的,因为它将“作用”为之前层的∂E/∂Y。

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

再次使用链规则:

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

最后,我们可以写出整个矩阵:

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

我们已经得到FC层所需的三个公式!

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

编码全连接层

现在我们可以用Python编写实现:

from layer import Layerimport numpy as np# inherit from base class Layerclass FCLayer(Layer): # input_shape = (1,i) i the number of input neurons # output_shape = (1,j) j the number of output neurons def __init__(self, input_shape, output_shape): self.input_shape = input_shape; self.output_shape = output_shape; self.weights = np.random.rand(input_shape[1], output_shape[1]) - 0.5; self.bias = np.random.rand(1, output_shape[1]) - 0.5; # returns output for a given input def forward_propagation(self, input): self.input = input; self.output = np.dot(self.input, self.weights) + self.bias; return self.output; # computes dE/dW, dE/dB for a given output_error=dE/dY. Returns input_error=dE/dX. def backward_propagation(self, output_error, learning_rate): input_error = np.dot(output_error, self.weights.T); dWeights = np.dot(self.input.T, output_error); # dBias = output_error # update parameters self.weights -= learning_rate * dWeights; self.bias -= learning_rate * output_error; return input_error;

激活层

到目前为止所做的计算都完全是线性的。用这种模型学习是没有希望的,需要通过将非线性函数应用于某些层的输出来为模型添加非线性。

现在我们需要为这种新类型的层(激活层)重做整个过程!

不用担心,因为此时没有可学习的参数,过程会快点,只需要计算∂E/∂X。

我们将f和f'分别称为激活函数及其导数。

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

前向传播

正如将看到的,它非常简单。对于给定的输入X,输出是关于每个X元素的激活函数,这意味着输入输出具有相同的大小

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

反向传播

给出∂E/∂Y,需要计算∂E/∂X

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

注意,这里我们使用两个矩阵之间的每个元素乘法(而在上面的公式中,它是一个点积)

编码实现激活层

激活层的代码非常简单:

from layer import Layer# inherit from base class Layerclass ActivationLayer(Layer): # input_shape = (1,i) i the number of input neurons def __init__(self, input_shape, activation, activation_prime): self.input_shape = input_shape; self.output_shape = input_shape; self.activation = activation; self.activation_prime = activation_prime; # returns the activated input def forward_propagation(self, input): self.input = input; self.output = self.activation(self.input); return self.output; # Returns input_error=dE/dX for a given output_error=dE/dY. # learning_rate is not used because there is no "learnable" parameters. def backward_propagation(self, output_error, learning_rate): return self.activation_prime(self.input) * output_error;

可以在单独的文件中编写一些激活函数以及它们的导数,稍后将使用它们构建ActivationLayer:

import numpy as np# activation function and its derivativedef tanh(x): return np.tanh(x);def tanh_prime(x): return 1-np.tanh(x)**2;

损失函数

到目前为止,对于给定的层,我们假设给出了∂E/∂Y(由下一层给出)。但是最后一层怎么得到∂E/∂Y?我们通过简单地手动给出最后一层的∂E/∂Y,它取决于我们如何定义误差。

网络的误差由自己定义,该误差衡量网络对给定输入数据的好坏程度。有许多方法可以定义误差,其中一种最常见的叫做MSE - Mean Squared Error:

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

其中y *和y分别表示期望的输出实际输出。你可以将损失视为最后一层,它将所有输出神经元吸收并将它们压成一个神经元。与其他每一层一样,需要定义∂E/∂Y。除了现在,我们终于得到E!

桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)

以下是两个python函数,可以将它们放在一个单独的文件中,将在构建网络时使用。

import numpy as np# loss function and its derivativedef mse(y_true, y_pred): return np.mean(np.power(y_true-y_pred, 2));def mse_prime(y_true, y_pred): return 2*(y_pred-y_true)/y_true.size;

网络类

到现在几乎完成了!我们将构建一个Network类来创建神经网络,非常容易,类似于第一张图片!

我注释了代码的每一部分,如果你掌握了前面的步骤,那么理解它应该不会太复杂。

from layer import Layerclass Network: def __init__(self): self.layers = []; self.loss = None; self.loss_prime = None; # add layer to network def add(self, layer): self.layers.append(layer); # set loss to use def use(self, loss, loss_prime): self.loss = loss; self.loss_prime = loss_prime; # predict output for given input def predict(self, input): # sample dimension first samples = len(input); result = []; # run network over all samples for i in range(samples): # forward propagation output = input[i]; for layer in self.layers: # output of layer l is input of layer l+1 output = layer.forward_propagation(output); result.append(output); return result; # train the network def fit(self, x_train, y_train, epochs, learning_rate): # sample dimension first samples = len(x_train); # training loop for i in range(epochs): err = 0; for j in range(samples): # forward propagation output = x_train[j]; for layer in self.layers: output = layer.forward_propagation(output); # compute loss (for display purpose only) err += self.loss(y_train[j], output); # backward propagation error = self.loss_prime(y_train[j], output); # loop from end of network to beginning for layer in reversed(self.layers): # backpropagate dE error = layer.backward_propagation(error, learning_rate); # calculate average error on all samples err /= samples; print('epoch %d/%d error=%f' % (i+1,epochs,err));

构建一个神经网络

最后!我们可以使用我们的类来创建一个包含任意数量层的神经网络!为了简单起见,我将向你展示如何构建......一个XOR。

from network import Networkfrom fc_layer import FCLayerfrom activation_layer import ActivationLayerfrom losses import *from activations import *import numpy as np# training datax_train = np.array([[[0,0]], [[0,1]], [[1,0]], [[1,1]]]);y_train = np.array([[[0]], [[1]], [[1]], [[0]]]);# networknet = Network();net.add(FCLayer((1,2), (1,3)));net.add(ActivationLayer((1,3), tanh, tanh_prime));net.add(FCLayer((1,3), (1,1)));net.add(ActivationLayer((1,1), tanh, tanh_prime));# trainnet.use(mse, mse_prime);net.fit(x_train, y_train, epochs=1000, learning_rate=0.1);# testout = net.predict(x_train);print(out);

同样,我认为不需要强调很多事情,只需要仔细训练数据,应该能够先获得样本维度。例如,对于xor问题,样式应为(4,1,2)。

结果

$ python xor.py epoch 1/1000 error=0.322980epoch 2/1000 error=0.311174epoch 3/1000 error=0.307195...epoch 998/1000 error=0.000243epoch 999/1000 error=0.000242epoch 1000/1000 error=0.000242[array([[ 0.00077435]]), array([[ 0.97760742]]), array([[ 0.97847793]]), array([[-0.00131305]])]

卷积层

这篇文章开始很长,所以我不会描述实现卷积层的所有步骤。但是,这是我做的一个实现:

from layer import Layerfrom scipy import signalimport numpy as np# inherit from base class Layer# This convolutional layer is always with stride 1class ConvLayer(Layer): # input_shape = (i,j,d) # kernel_shape = (m,n) # layer_depth = output depth def __init__(self, input_shape, kernel_shape, layer_depth): self.input_shape = input_shape; self.input_depth = input_shape[2]; self.kernel_shape = kernel_shape; self.layer_depth = layer_depth; self.output_shape = (input_shape[0]-kernel_shape[0]+1, input_shape[1]-kernel_shape[1]+1, layer_depth); self.weights = np.random.rand(kernel_shape[0], kernel_shape[1], self.input_depth, layer_depth) - 0.5; self.bias = np.random.rand(layer_depth) - 0.5; # returns output for a given input def forward_propagation(self, input): self.input = input; self.output = np.zeros(self.output_shape); for k in range(self.layer_depth): for d in range(self.input_depth): self.output[:,:,k] += signal.correlate2d(self.input[:,:,d], self.weights[:,:,d,k], 'valid') + self.bias[k]; return self.output; # computes dE/dW, dE/dB for a given output_error=dE/dY. Returns input_error=dE/dX. def backward_propagation(self, output_error, learning_rate): in_error = np.zeros(self.input_shape); dWeights = np.zeros((self.kernel_shape[0], self.kernel_shape[1], self.input_depth, self.layer_depth)); dBias = np.zeros(self.layer_depth); for k in range(self.layer_depth): for d in range(self.input_depth): in_error[:,:,d] += signal.convolve2d(output_error[:,:,k], self.weights[:,:,d,k], 'full'); dWeights[:,:,d,k] = signal.correlate2d(self.input[:,:,d], output_error[:,:,k], 'valid'); dBias[k] = self.layer_depth * np.sum(output_error[:,:,k]); self.weights -= learning_rate*dWeights; self.bias -= learning_rate*dBias; return in_error;

它背后的数学实际上并不复杂!这是一篇很好的文章,你可以找到∂E/∂W,∂E/∂B和∂E/∂X的解释和计算。

如果你想验证你的理解是否正确,请尝试自己实现一些网络层,如MaxPooling,Flatten或Dropout

GitHub库

你可以在GitHub库中找到用于该文章的完整代码。

本文由阿里云云栖社区组织翻译。

文章原标题《math-neural-network-from-scratch-in-python》

作者:Omar Aflak 译者:虎说八道,审校:袁虎。

2、桂花的香味作文

桂花的香味作文

总有人说:桂花飘香是收获的味道。我却说是祖母的味道。

八月,桂花飘香十里,一朵朵细密柔软的桂花瓣将点点朝阳切割成片片光斑,投影在草地上。有桂花的早晨,仿佛空气中也回荡着一大朵一大朵如棉花糖的香味。

祖母一手挽着花篮,一手牵着我稚嫩的手,载着满脸的慈爱来到桂花树下收集桂花的香味。

我抬头一看,白色的花瓣周围早已泛上丝丝黄晕,一朵一朵像歌剧里的蝴蝶夫人,一席朴素黄白相间的裙子坐在枝头,矜持、淡雅,一言不发。

祖母用颤抖的手与我一起环抱住粗壮的枝干,轻轻地摇动着,眼睛却不离那如雨滴般飘落的桂花花瓣,一点,一点又一点,飘落在祖母和我洋溢着笑容的脸上。

透过朝阳,穿过花瓣,我望向了祖母——她的头上已冒出丝丝汗滴,顺着她温柔却已苍老的面庞流下。祖母依旧笑着,纵使时光流逝再快,她依旧带着那不变的笑容,温柔了时光,温柔了岁月,也温柔了儿孙们的心。

秋日的下午,余晖透过斑驳的窗棂,洒向已吱吱作响的厨房。室内昏暗的灯光与夕阳似水乳交融。祖母坐在灶台旁,倾听那茶水咕噜声回荡在厨房中。

祖母安静地坐着,脸上挂着好似永远不会消逝的微笑。她说,她在为我煮我最爱的桂花茶。

杯子呈上桌前,依旧冒着氤氲。祖母又笑起来,将茶杯颤抖地推到我的面前,缓缓地搬来一张板凳,坐在我对面,眼里透着慈爱的光辉,边注视着我边搅动着另一杯飘满桂花的暖茶。

我透过空中的白气望向她,皱纹已爬满她的面颊,眼白里也泛起了琥珀色的灰斑,就连那苍老而又温柔的手上,也突起了青筋。但慈祥与对生活的满足依旧如桂花茶的清香般在这间房子里久久不能散去,其中饱含的却是对儿孙的牵挂与疼爱。

宁静的夜晚,月亮在白莲般的云朵里穿行。一阵微风拂过,吹落了挂在枝头的桂花瓣,也带来了阵阵清香。

祖母与我坐在桂花树下,听祖母讲那过去的诗,讲唐诗宋词,任由思绪随桂花的香味一般飘到很远的地方。“明月松间照,清泉石上流。”“小时不识月,呼作白玉盘。”祖母笑了。那笑容恍惚,如母亲,又好似当下的我。她也曾年轻过,也曾梳着乌黑靓丽的长发在一年又一年的桂花下嬉戏。但时光如箭,一丝射出,拒绝回头。

祖母终会老去,但她的爱却是一棵没有年轮的桂花树,永不老去。

桂花的香味作文

一阵清风吹拂,远远的就能闻到那淡淡的清香。没错,我肯定是桂花的香味。这味道我再熟悉不过了。

妈妈说世上最朴实又最典雅的花就是桂花了。它小小的花瓣却会散发出迷人的悠长的香气,让人心旷神怡。而在桂花开的最迷人的时候,那股子香气,也确实令人魂牵梦萦。桂花便成了妈妈最喜爱的花了,然而我却不以为然。

最近,我读了女作家琦君的《故乡的桂花雨》,作者对桂花香味的“魂牵梦索”,让我对桂花有了种好奇。带着这种好奇,我又找来了《桂花香飘云天外》、《杭州:飘落一身桂花雨》等有关桂花的文章,想看看人们为什么对桂花如此喜爱。

“满树金黄细小的花儿,点缀着红叶娇艳的季节。更有那浓郁的芳香,‘一味恼人香’袭人心怀,沁人肺腑。又在芳香中带有一丝甜意,使人久闻不厌。”……

“香气浓郁的花‘或清或浓,不能两兼’。然而,桂花却具有清浓两兼的特点,它清芬袭人,浓香远逸,它那独特的带有一丝甜蜜的幽香,总能把人带到美妙的世界。”

好美的语句,好美的花,文章对桂花的描写是那样的神奇,如此的有神话色彩,读着读着我深深地被感动了,就仿佛来到了一个仙乐飘飘的梦境里,融化其中,享受着美好的气息。慢慢地,我对桂花产生了一种熟悉的感觉。

“桂花分金桂、木樨、银桂、丹桂……”我装着老道的样子对妈妈说着,牵着妈妈的手,在中秋月下,走进老爷楼下的那片桂花林。

远远的,我闻到了扑鼻的香气,一阵爽飒的风儿吹过,瞧,那一棵棵婆娑的桂花树,随风摇曳起来了。咦?那是什么?好似金色的蝴蝶,好似银色的彩带,缠绵的飘呀飘,飘落下来,飘到了地上,桂花虽然没有琦君故乡那么多,然而我却真的感觉就像琦君所说的,成了“金沙铺地的西方极乐世界。”一片片黄黄的、小小的花瓣,带着浓郁的香味,飘到了我和妈妈的头发上、身上、鞋上。我伸开双臂惊呼“桂花雨!妈妈,这就是桂花雨!原来书上说的都是真的……多么浪漫,多么奇妙,多少梦幻啊!”我仰起头,桂花落在了我的脸上,轻轻的,细细的,带着花香,抚摸着我的脸,对我诉说着。作文大全

桂花,曾经并未使我心动,也未使我心欢,可是当我走进它,聆听漫天花之语时,它的无言,早已胜过了有声。而在走近的那一瞬间,它告诉了我它所有的美丽,同时,它也向我倾诉了它所有的情感,它告诉我它的香气怡人,它对我诉说它的舞姿缤纷……

晚上我做了一个美丽的梦,我梦见我站在桂花树下,然后下了一场桂花雨。

桂花的香味作文

黄昏,我背着书包,踏在霞光铺洒的小路上,心中溢满了舒畅与喜悦,甜甜桂花香作文。走过小区的路口,忽然嗅到了桂花的清香,我加快脚步,走进小巷才知道,那里来了一位卖桂花糕的老爷爷。

我有些欣喜,早就想尝一尝桂花糕的味道,可城里鲜有卖桂花糕的铺子,今天总算碰见了。我从兜里掏出两元钱,向飘来桂花香的地方奔去。

买桂花糕的小铺子是用三轮车改造而成的,木板做成了平台,四根细柱子撑起了屋蓬,最前面还.写着“桂花糕”三个字。别看“麻雀虽小”,但“五脏俱全”着哩!平台上,有一个很小的磨,也许是用来磨糯米的;最里边,有一个特别小的蒸锅,不仔细看还真看不见。

“小姑娘,要桂花糕吗?”老爷爷那略带方言的普通话,让我的'目光不再停留在他的铺子上,观察植物作文《甜甜桂花香作文》。我微笑着回答:“请给我两块。”“好嘞,小姑娘,等一下。”

乘老爷爷做桂花糕之际,我仔细打量了他:浓而黑的眉毛下是一双充满热情与笑意的眼睛,偏红的肤色显得他十分健康与亲切。他身着有些褪色的春秋衫,手上与我的爷爷一样,布满皱纹与老茧。一眼看上去,是一位十分慈祥的老人。

他一边做,一边亲切地说:“小姑娘,你可是到我这儿来的第一位顾客。”老爷爷说着,他那红红的脸庞在夕阳下显得更加和善,霞光洒在他身上,伴着那缕缕的桂花清香,是一幅多么和谐的画面啊!

“好了,小姑娘,拿去吧。”不一会儿,老爷爷轻轻把两快用小塑料袋包好的桂花糕给了我。我递上两元钱,带着满足离开了。

咬一口桂花糕,童年时熟悉的味道又回来了,那甜甜、腻腻、软软、香香的糯米与香浓的桂花的香醇,立刻袭进了我的心房,久久地萦绕……

此后,每天傍晚,老爷爷都会顶着霞光来巷口卖桂花糕。他的糕从不须叫卖,那甜甜的桂花香自会迎来许多顾客……

本文关键词:桂花的香味作文800字,桂花的香味作文200字,桂花的香味作文怎么写,桂花的香味作文400字,桂花的香味作文300字。这就是关于《桂花的香味作文,桂花的香味作文200字(零起步数学+神经网络入门)》的所有内容,希望对您能有所帮助!更多的知识请继续关注《犇涌向乾》百科知识网站:http://www.029ztxx.com!

版权声明: 本站仅提供信息存储空间服务,旨在传递更多信息,不拥有所有权,不承担相关法律责任,不代表本网赞同其观点和对其真实性负责。如因作品内容、版权和其它问题需要同本网联系的,请发送邮件至 举报,一经查实,本站将立刻删除。

猜你喜欢