Lecture 6: 生成对抗网络(GAN)
Lecture 6: 生成对抗网络(GAN)
机器学习任务攻略(前期如何做作业)
Lecture 2:机器学习任务攻略(前期如何做作业)Training Data$\Large \Rightarrow$Training(Lecture 1:三个步骤)$\Large \Rightarrow$Testing data
1.从 loss on training data 着手1.1Model Bias模型过于简单或者与实际相差过多,无论如何迭代,loss值无法降低。需要让模型更加flexible。在课程里层数越多模型越有弹性。
1.2优化问题(Optimization Issue)寻找loss陷入局部最优解
关于两者的比较和判断,介绍了文章Population imbalance in the extended Fermi-Hubbard model](https://arxiv.org/abs/1512.00338))当两个网络A、B,A在B的基础上有更多的层数,但是在任务上A的loss要比B大,这说明A网络的Optimization没有做好。
从对比中,我们可以获得更确切的认知;我们可以从较为浅的model开始着手;如果更深的网络并没有得到更小的loss,那么该网 ...
Lecture 1 && Lecture 2:机器学习/深度学习基本概念简介
Lecture 1: Introduction of ML/DL机器学习基本概念简介Machine Learning $\approx$ Looking for Function——机器学习就是让机器(程序)具备找一个函数的能力。
Different types of Funtions:
Regression(回归)——连续。最终得到标量(scalar)
Classification(分类)——离散。得到一个选择(options/classes)
除此两大任务外,还有Structured Learning:让机器不仅学会分类或者实现预测任务,而且可以创造特定的“有结构”的物体,譬如文章、图像等。
机器学习如何找到这个函数?(三个步骤)
Function with Unknown Parameters:譬如$y = b + wx_1$,该假设方程是基于domain knowledge(领域知识)各种定义:
Model:带有未知的参数(Parameters)的函数(function)。
$x_1$是feature,$w$是weight,$b$是bias,后两个未知参数基于数据( ...
No title
title:常用的元胞自动机tags:”元胞自动机”
mathjax:true 在元胞自动机是由空间上各项同性的一系列元胞所组成,是在有限元胞自动机基础上发展起来的,用于模拟和分析几何空间内的各种现象。
2.2.1 典型的元胞自动机 在元胞自动机的发展过程中,科学家们构造了各种各样的元胞自动机模型。其中,以下几个典型模型对元胞自动机的理论方法的研究起到了极大的推动作用,因此,它们又被认为是元胞自动机发展历程中的几个里程碑。
什么是元胞自动机
元胞自动机(Cellular Automata,简称CA,也有人译为细胞自动机、点格自动机、分子自动机或单元自动机)。是一时间和空间都离散的动力系统。散布在规则格网(Lattice Grid)中的每一元胞(Cell)取有限的离散状态,遵循同样的作用规则,依据确定的局部规则作同步更新。大量元胞通过简单的相互作用而构成动态系统的演化。不同于一般的动力学模型,元胞自动机不是由严格定义的物理方程或函数确定,而是用一系列模型构造的规则构成。凡是满足这些规则的模型都可以算作是元胞自动机模型。因此,元胞自动机是一类模型的总称,或者说是一个方法框架。其特点是时间、空间、状态都离散,每个变量只取有限多个状态,且其状态改变的规则在时间和空间上都是局部的。
1. 自动机
自动机(Automaton)通常指不需要人们逐步进行操作指导的设备(夏培肃,1984)。例如,全自动洗衣机可按照预先安排好的操作步骤作自动地运行;现代计算机能自动地响应人工编制的各种编码指令。完成各种复杂的分析与计算;机器人则将自动控制系统和人工智能结合,实现类人的一系列活动。另一方面,自动机也可被看作为一种离散数字动 ...
回归方法
线性回归模型原理线性回归——即对一组二元(单值)关系集的线性拟合,以寻找二元关系的函数表达。
简单线性回归模型如下:
y = wx+b其中$x$表示特征值,$w$表示权重,$b$表示偏置,$y$表示标签。
多元线性回归
对于一组$n$元关系(也可以认为是二元)的线性拟合。譬如:对于二元关系$(y,(x_1,x_2,…,x_n))$可以建立多元线性回归模型如下:
y = b + w_1x_1+w_2x_2+...+w_nx_n其中$x_i$表示第$i$个特征值,$w_i$表示第$i$个特征对应的权重,$b$表示偏置,$y$表示标签。
对线性回归模型,假设训练集中 m 个训练样本,每个训练样本中有 n 个特征,可以采用矩阵的表示方法,则多元线性回归模型还可以表示为:
Y = \theta X其中$\theta = (\theta_0,\theta_1,\theta_2,…,\theta_n)$。
其损失函数可表示为:
𝐽(𝜃)=(𝑌−𝑌̂ )^2=(𝑌−𝜃𝑋)^=(𝑌−𝜃𝑋)𝑇(𝑌−𝜃𝑋)其中,标签 𝑌 为 (m,1) 的矩阵,训练特征 𝑋 为 (m ...
深度学习小白白入门乱记
机器学习主要分为三类:监督学习、非监督学习、强化学习
监督学习根据输出是连续还是离散的,把监督学习分为回归问题和分类问题。根据分类个数,还可分为两类分类问题或是多类分类问题。
监督学习本质上是一种知识的传递。
非监督学习非监督学习的训练数据只有输入而没有分类标签等输出。其目标是根据数据的分布发现数据的规律。例如当前比较热门的生成对抗网络(GAN)。
常见任务包括降维和聚类。
降维的目的是把高维空间的点减低到一个低维空间上,同时尽可能的多保留信息。用途包括使可视化数据,t-SNE是一种很常见的用于可视化数据的降维技术。
聚类的目的是把相似的数据点放一起。由算法区分类别(标记)。
强化学习获取新知识的唯一途径。(??)
常见的监督学习模型1.朴素贝叶斯分类器(Naive Bayes Classifier)朴素贝叶斯分类器(Naive Bayes Classifier)非常简单,其假设样本的特征在给定分类的条件下是相互独立的。
特征(Feature)是被观察现象的一个可以测量的属性。好的特征让学习变的容易,无关的特征会干扰模型。
假设输入X = $(x_1,x_2,…,x_n)$,NBC ...
Hello World
Welcome to Hexo! This is your very first post. Check documentation for more info. If you get any problems when using Hexo, you can find the answer in troubleshooting or you can ask me on GitHub.
Quick StartCreate a new post1$ hexo new "My New Post"
More info: Writing
Run server1$ hexo server
More info: Server
Generate static files1$ hexo generate
More info: Generating
Deploy to remote sites1$ hexo deploy
More info: Deployment
