[TOC]
↗ Formal System, Formal Logics, and Its Semantics
↗ Function & Mapping of Set ↗ Number Sequence
https://m3challenge.siam.org/what-is-math-modeling/
https://ubcmath.github.io/MATH360/process/overview.html Introduction to Mathematical Modeling
🔗 https://zh.wikipedia.org/zh-hans/%E6%95%B0%E5%AD%A6%E6%A8%A1%E5%9E%8B
数学模型(mathematical model)是使用数学来将一个系统简化后予以描述。数学模型广泛应用在自然科学(如物理学、化学、生物学、宇宙学)、工程学科(如计算机科学,人工智能)、以及社会科学(如经济学、心理学、社会学和政治科学)上。科学家和工程师用模型来解释一个系统,研究不同组成部分的影响,以及对行为做出预测。常见的模型包括动态系统、概率模型、微分方程或赛局模型等等。描述不同对象的模型可能有相同的形式,同一个模型也可能包含了不同的抽象结构。
A mathematical model is an abstract description of a concrete system using mathematical concepts and language. The process of developing a mathematical model is termed mathematical modeling. Mathematical models are used in many fields, including applied mathematics, natural sciences, social sciences and engineering. In particular, the field of operations research studies the use of mathematical modelling and related tools to solve problems in business or military operations. A model may help to characterize a system by studying the effects of different components, which may be used to make predictions about behavior or solve specific problems.
Elements of a mathematical model Mathematical models can take many forms, including dynamical systems, statistical models, differential equations, or game theoretic models. These and other types of models can overlap, with a given model involving a variety of abstract structures. In many cases, the quality of a scientific field depends on how well the mathematical models developed on the theoretical side agree with results of repeatable experiments. Lack of agreement between theoretical mathematical models and experimental measurements often leads to important advances as better theories are developed. In the physical sciences, a traditional mathematical model contains most of the following elements:
- Governing equations
- Supplementary sub-models
- Defining equations
- Constitutive equations
- Assumptions and constraints
https://m3challenge.siam.org/what-is-math-modeling/
🔗 https://en.wikipedia.org/wiki/Mathematical_model#Construction
🔗 https://zh.wikipedia.org/zh-hans/%E6%95%B0%E5%AD%A6%E6%A8%A1%E5%9E%8B
首先必须明白问题的本质,才能将之转换成操作定义和数学符号。根据已知资讯的多寡,模型可以分为三类:
- 白箱模型:指那些内部规律比较清楚的模型。如力学、热学、电学以及相关的工程技术问题[5]。
- 灰箱模型:指那些内部规律尚不十分清楚,在建立和改善模型方面都还不同程度地有许多工作要做的问题。如气象学、生态学、经济学等领域的模型[6]。
- 黑箱模型:指一些其内部规律还很少为人们所知的现象。如生命科学、社会科学等方面的问题。但由于因素众多、关系复杂,也可简化为灰箱模型来研究[7]。
🔗 https://zh.wikipedia.org/zh-hans/%E6%95%B0%E5%AD%A6%E6%A8%A1%E5%9E%8B
模型描述的是理想化的情境,如 George E. P. Box 所言:“所有的模型都是错的,但有些很有用”。判断哪些核心部件必须保留、哪些可以简化是建模的重要步骤。如果所有的细节都包含在内,模型和真实世界是一样的,则没有使用模型的意义。
物理中常用的若干简化模型包括无质量的绳子、点粒子、理想气体以及无限深方形阱[8]。用简单方程表示的物理定律有牛顿定律、马克士威方程组和薛定谔方程等[9]。这些定律都是建立在实际情况的数学模型基础上的。许多实际情况是非常复杂的,因此要用电脑进行模拟,计算可行的模型是建立在基本定律或基本定律的近似模型上的。例如,分子可以用薛定谔方程的近似解分子轨道模型进行模拟。在工程中,物理模型通常运用的数学方法如有限元分析[10]。不同数学模型使用不同的几何学,但所使用的不一定是描述宇宙最准确的几何学。欧几里得几何多用在经典物理学中,而狭义相对论和广义相对论都是不使用欧几里得几何的理论[11]。
在数理生物学中,哈温定律描述一个无限大的族群、里面随机交配、没有天择或突变。族群遗传学模型常假设固定的族群大小。计量遗传学模型则假设连续性状。
[!links] ↗ Modeling and Simulation ↗ Models of Computation & Abstract Machines
🔗 https://zh.wikipedia.org/zh-hans/%E6%95%B0%E5%AD%A6%E6%A8%A1%E5%9E%8B
决定实际问题中的各种因素,转换为变量表示。接著应分析这些变量之间的关系,哪些是相互依存的,哪些是独立的,他们具有什么样的关系,用合理的数学式表示这些关系。根据实际问题选用合适的数学框架(典型的有优化问题,配置问题等等),并具体的应用问题在这个数学框架下表出,并用合适的算法求解数学框架下表出的问题。在这个过程中可能用到计算机模拟和编程,常用的数学工具软件包括MATLAB和Mathematica。
[!links] ↗ Data Visualization ↗ Design & Visualization Tools
🔗 https://zh.wikipedia.org/zh-hans/%E6%95%B0%E5%AD%A6%E6%A8%A1%E5%9E%8B
最后使用计算结果解释实际问题,并且分析结果的可靠性。这时常需用到各种信息可视化的技巧。
🔗 https://en.wikipedia.org/wiki/Mathematical_model#Construction
🔗 https://en.wikipedia.org/wiki/Mathematical_model#Significance_in_the_natural_sciences
Mathematical models are of great importance in the natural sciences, particularly in physics. Physical theories are almost invariably expressed using mathematical models. Throughout history, more and more accurate mathematical models have been developed. Newton's laws accurately describe many everyday phenomena, but at certain limits theory of relativity and quantum mechanics must be used.
It is common to use idealized models in physics to simplify things. Massless ropes, point particles, ideal gases and the particle in a box are among the many simplified models used in physics. The laws of physics are represented with simple equations such as Newton's laws, Maxwell's equations and the Schrödinger equation. These laws are a basis for making mathematical models of real situations. Many real situations are very complex and thus modeled approximately on a computer, a model that is computationally feasible to compute is made from the basic laws or from approximate models made from the basic laws. For example, molecules can be modeled by molecular orbital models that are approximate solutions to the Schrödinger equation. In engineering, physics models are often made by mathematical methods such as finite element analysis.
Different mathematical models use different geometries that are not necessarily accurate descriptions of the geometry of the universe. Euclidean geometry is much used in classical physics, while special relativity and general relativity are examples of theories that use geometries which are not Euclidean.
[!links] ↗ Algebraic Structure & Abstract Algebra & Modern Algebra
↗ Models of Computation & Abstract Machines ↗ (Formal) Model Checking /1️⃣ System Modeling ↗ Formal Semantics and Programming Language ↗ The Essence of Computing - Programs & The Semantics of Programs
↗ Artificial Intelligence "The nature of environments" ✅
A Map of Mathematical Structures for AI
Posted on December 30, 2022 (https://mentalmodels4life.net/2022/12/30/a-map-of-mathematical-structures/) by Kee Siong Ng (https://mentalmodels4life.net/author/keesiongng/)
Generally speaking, each arrow involves the addition of some new symbols and the axioms that provide their definitions and / or properties. Some boxes have multiple incoming arrows; these are systems constructed from the union of multiple sets of new symbols and axioms. Note also that the relationships represented by the arrows are, in general, transitive.
🔗 https://zh.wikipedia.org/zh-hans/%E6%95%B0%E5%AD%A6%E6%A8%A1%E5%9E%8B#%E5%88%86%E7%B1%BB
数学模型通常由关系与变量组成。关系可用算符描述,例如代数算符、函数、微分算符等。变量是关注的可量化的系统参数的抽象形式。算符可以与变量相结合发挥作用,也可以不与变量结合。[1] 通常情况下,数学模型可被分为以下几类:
- 线性与非线性:在数学模型中,如果所有变量表现出线性关系,由此产生的数学模型为线性模型。否则,就为非线性模型。对线性与非线性的定义取决于具体数据,线性相关模型中也可能含有非线性表达式。例如,在一个线性统计模型中,假定参数之间的关系是线性的,但预测变量可能是非线性的。同理,如果一个微分方程定义为线性微分方程,指的是它可以写成线性微分算子的形式,但其中仍可能有非线性的表达式。在数学规划模型中,如果目标函数和约束条件都完全可以由线性方程表示,那么模型为线性模型。如果一个或多个目标函数或约束表示为非线性方程,那么模型是一个非线性模型。
- 即使在相对简单的系统中,非线性也往往与混沌和不可逆性等现象有关。虽然也有例外,非线性系统和模型往往比线性研究起来更加困难。解决非线性问题的一个常见方法是线性化,但在尝试用来研究对非线性依赖性很强的不可逆性等方面时就会出现问题[2]。
- 静态与动态:动态模型对系统状态随时间变化情况起作用,而静态(或稳态)模型是在系统保持平稳状态下进行计算的,因而与时间无关。动态模型通常用微分方程描述。
- 显式与隐式:如果整体模型的所有输入参数都已知,且输出参数可以由有限次计算求得(称为线性规划,不要与上面描述的线性模型相混淆),该模型称作显式模型。但有时输出参数未知,相应的输入必须通过迭代过程求解,如牛顿法(如果是线性模型)或布洛登法(如是非线性模型)。例如喷气发动机物理特性如涡轮和喷管喉道面积,可以在给定特定飞行条件和功率设置的热力学循环(空气和燃油的流量、压力、温度)的情况下显式计算出来,但不能用物理性质常量显式计算出其他飞行条件和功率设置下发动机的工作周期。
- 离散与连续:离散模型将对象视作离散的,例如分子模型中的微粒,又如概率模型中的状态。而连续模型则由连续的对象所描述,例如管道中流体的速度场,固体中的温度和压力,电场中连续作用于整个模型的点电荷等。
- 确定性与概率性(随机性):确定性模型是所有变量集合的状态都能由模型参数和这些变量的先前状态唯一确定的一种模型;因此,在一组给定的初始条件下确定性模型总会表现相同。相反,在随机模型(通常成为“概率模型”)中存在随机性,而且变量状态并不能用唯一值来描述,而用概率分布来描述。
- 演绎,归纳与漂移:演绎模型是建立在理论上的一种逻辑结构。归纳模型由实证研究及演绎模型推广而得。漂移模型则既不依赖于理论,也不依赖于观察,而仅仅是对预期结构的调用。[3] 当数学应用在经济学以外的社会科学时,此类模型一直被批评为毫无根据的模型。科学中在突变理论的应用已被定性为漂移模型。
[!quote] 线性与非线性:在数学模型中,如果所有变量表现出线性关系,由此产生的数学模型为线性模型。否则,就为非线性模型。对线性与非线性的定义取决于具体数据,线性相关模型中也可能含有非线性表达式。例如,在一个线性统计模型中,假定参数之间的关系是线性的,但预测变量可能是非线性的。同理,如果一个微分方程定义为线性微分方程,指的是它可以写成线性微分算子的形式,但其中仍可能有非线性的表达式。在数学规划模型中,如果目标函数和约束条件都完全可以由线性方程表示,那么模型为线性模型。如果一个或多个目标函数或约束表示为非线性方程,那么模型是一个非线性模型。
即使在相对简单的系统中,非线性也往往与混沌和不可逆性等现象有关。虽然也有例外,非线性系统和模型往往比线性研究起来更加困难。解决非线性问题的一个常见方法是线性化,但在尝试用来研究对非线性依赖性很强的不可逆性等方面时就会出现问题[2]。
↗ Linear Algebra & Module-Like Algebraic Structure
[!quote] 静态与动态:动态模型对系统状态随时间变化情况起作用,而静态(或稳态)模型是在系统保持平稳状态下进行计算的,因而与时间无关。动态模型通常用微分方程描述。
↗ Cybernetics & Control Theory ↗ Mathematical Analysis (& Analytical Mathematics)
[!quote] 离散与连续:离散模型将对象视作离散的,例如分子模型中的微粒,又如概率模型中的状态。而连续模型则由连续的对象所描述,例如管道中流体的速度场,固体中的温度和压力,电场中连续作用于整个模型的点电荷等。
↗ Discrete Mathematics & TCS (Theoretical Computer Science) ↗ Models of Computation & Abstract Machines "transition system"
[!quote] 确定性与概率性(随机性):确定性模型是所有变量集合的状态都能由模型参数和这些变量的先前状态唯一确定的一种模型;因此,在一组给定的初始条件下确定性模型总会表现相同。相反,在随机模型(通常成为“概率模型”)中存在随机性,而且变量状态并不能用唯一值来描述,而用概率分布来描述。
↗ Probability Theory & Statistics ↗ Probabilistic Models (Distributions) & Stochastic Process
🤔 ↗ Statistics (Data) Analyzing Methods & Statistical Model
[!quote] 演绎,归纳与漂移:演绎模型是建立在理论上的一种逻辑结构。归纳模型由实证研究及演绎模型推广而得。漂移模型则既不依赖于理论,也不依赖于观察,而仅仅是对预期结构的调用。[3] 当数学应用在经济学以外的社会科学时,此类模型一直被批评为毫无根据的模型。科学中在突变理论的应用已被定性为漂移模型。
↗ Mathematical Logic (Foundations of Mathematics) ↗ Formal System, Formal Logics, and Its Semantics ↗ Mechanized (Formal) Reasoning & Automated Reasoning (Inference)
↗ Gentzen-Style Proofs (Natural Deduction)
↗ Game Theory & Decision Making in Multi-Agents Environments ↗ Games & Search in Multi-Agents Environment
- ↗ Computability (Recursion) Theory - Turing Machine and R.E. Language
- ↗ Models of Computation & Abstract Machines ↗ Model Theory (模型论) ↗ Algorithm & Data Structure
↗ Cybernetics & Control Theory
↗ Cryptographic Protocols Modeling & Models of Communication (and Intruder)
↗ Probabilistic Models (Distributions) & Stochastic Process
↗ Artificial Intelligence ↗ AI Basics & Major Techniques
- ↗ Statistical (Data-Driven) Learning & Machine Learning (ML)
- ↗ Knowledge Representation (Syntax Level) and Reasoning (KRR)
- ↗ Logical Database Design (Data Modeling)
- ↗ Conceptual Database Design (Conceptual Modeling)
- ↗ Physical Database Design (Physical Modeling) ↗ UML (Unified Modeling Language)
↗ Formal Methods & Formal Verification (FV)
↗ Game Theory & Decision Making in Multi-Agents Environments
↗ System Modeling & Integration
https://github.com/BENAGP/Models-for-ICM-MCM https://www.yooongchun.com/2018/07/09/wo-de-shu-xue-jian-mo-zhi-lu/
- 数据处理:插值、拟合、筛选、预测
- 拟合以及插值还有逼近是数值分析的三大基础工具,通俗意义上它们的区别在于:拟合是已知点列,从整体上靠近它们;插值是已知点列并且完全经过点列;逼近是已知曲线,或者点列,通过逼近使得构造的函数无限靠近它们。利用插值和拟合可以大致明白数据的变化规律,也可以补全一些缺失值。
- 插值与拟合有:Lagrange插值、Newton插值、Hermite插值、三次样条插值、线性最小二乘法等
- 参数估计(点估计、极大似然估计、Bayes估计)
- 假设检验(U-检验、T-检验、卡方检验、F-检验、最优性检验、分布拟合检验)
- 方差分析(单因素、多因素、相关性检验)
- 经验分布函数、正交试验
- 数据分析:方差分析、回归分析、层次分析法、判别分析、多元分析
- 回归分析预测
- 一般常见的回归算法:(一元线性回归、多元线性回归MLR、非线性回归、多元逐步回归MSR、主元回归法PCR、部分最小二乘回归法PLSR)
- 概率方法:
- 马尔可夫预测
- 时间序列预测
- 小波分析预测
- 混沌序列预测
- 多元分析
- 聚类分析:聚类分析是根据在数据中发现的描述对象及其关系的信息,将数据对象分组。目的是,组内的对象相互之间是相似的(相关的),而不同组中的对象是不同的(不相关的)。组内相似性越大,组间差距越大,说明聚类效果越好。
- 因子分析:研究从变量群中提取共性因子的统计技术,这里的共性因子指的是不同变量之间内在的隐藏因子,因子分析的过程其实是寻找共性因子和个性因子并得到最优解释的过程。
- 主成分分析:主成分分析是因子分析处理过程的一部分,可以通过分析各指标数据的变化情况,然后将数据变化相似的指标用一种具有代表性的来代替,从而达到降维的目的。
- 判别分析:距离判别、Fisher判别、Bayes判别
- 典型相关分析
- 对应分析
- 多维标度法
- 偏最小二乘回归分析
- 关联与因果
- 需要对数据间的变量进行典型相关分析(例:因变量组 Y1、Y2、Y3、Y4,自变量组 X1、X2、X3、X4,各自变量组相关性比较强,问哪一个因变量与哪一个自变量关系比较紧密?),通过关联分析可以对变量进行降维处理。
- (1)、灰色关联分析方法
- (2)、Sperman 或 kendall 等级相关分析
- (3)、Person 相关(样本点的个数比较多)
- (4)、Copula 相关(金融数学,概率密度)
- (5)、标准化回归分析:若干自变量,一个因变量,问哪一个自变量与因变量关系比较紧密
- 回归分析预测
- 优化算法:
- 神经网络
- 现代优化算法(贪婪算法、禁忌搜索、模拟退火、遗传算法、人工神经网络、蚁群算法、粒子群算法、人群搜索算法、人工免疫算法、集成算法、TSP问题、QAP问题、JSP问题)
- 量子优化算法
- 模糊逼近、动态加权、ES、DWRR、序列分析、主成分分析、因子分析、聚类分析、灰色关联分析法、数据包络分析法(DEA)
- 目标规划问题:整数规划、线性规划、非线性规划、动态规划
- 线性规划(运输问题、指派问题、对偶理论、灵敏度分析)
- 整数规划(分支定界、枚举试探、蒙特卡洛)
- 非线性规划(约束极值、无约束极值)
- 非线性规划包括:无约束问题、约束极值问题
- 智能优化算法包括:模拟退火算法、遗传算法、改进的遗传算法、禁忌搜索算法、神经网络、粒子群、蚁群等
- 目标规划(单目标、多目标)
- 动态规划(动态、静态、线性动规、区域动规、树形动规、背包动规)
- 动态优化(变分法)
- 图与网络
- 最小生成树(prim算法、Kruskal算法)
- 最短路径(Dijkstra算法、Floyed算法(弗洛伊德算法)、Floyd-Warshall算法、Bellman-Ford算法、SPFA算法)
- 匹配问题(匈牙利算法)
- Euler图和Hamilton图
- 网络流(最大流问题、最小费用最大流问题)
- 方程建模:微分方程、偏微分方程、差分方程
- 微分方程(Malthus人口模型、Logistic模型、战争模型)
- 稳定状态模型(Volterra 模型)
- 常微分方程的解法(离散化、Euler方法、Runge—Kutta方法、线性多步法)
- 差分方程(蛛网模型、遗传模型)
- 偏微分方程数值解(定解问题、差分解法、有限元分析)
- 分类算法
- 支持向量机:实现是通过某种事先选择的非线性映射(核函数)将输入向量映射到一个高维特征空间,在这个空间中构造最优分类超平面,主要用于分类。
- 逻辑回归:逻辑回归也称作logistic回归分析,是一种广义的线性回归分析模型,属于机器学习中的监督学习。其推导过程与计算方式类似于回归的过程,但实际上主要是用来解决二分类问题(也可以解决多分类问题)。通过给定的n组数据(训练集)来训练模型,并在训练结束后对给定的一组或多组数据(测试集)进行分类。
- 决策树:可以当作一种基本的分类与回归方法,在分类问题中,表示基于特征对实例进行分类的过程,可以认为是if-then的集合,也可以认为是定义在特征空间与类空间上的条件概率分布。
- 神经网络,神经网络同样可以用作分类,且效果不错,神经网络的分类器种类繁多,有需求的可以去了解相关的神经网络分类算法。
- 随机森林:随机森林是机器学习中十分常用的算法,也是Bagging集成策略中最实用的算法之一。首先对数据集进行随机采样,分别训练多个树模型,最终将其结果整合在一起即可。
- 模糊数学模型
- 排队论与计算机仿真
- 图像处理
- 其他方法
- 模糊综合评判
- 不建议单独使用,评价一个对象优、良、中、差等层次评价,评价一个学校等,不能排序
- 层次分析法(AHP)
- 不建议单独使用作决策,去哪旅游,通过指标,综合考虑作决策
- 数据包络(DEA )分析法
- 综合评价类优化问题,对各省发展状况进行评判,多输入多输出,数据量大,针对一个优化系统,得到的结果较为客观。这个方法特别适用于多输入多输出的大数据评价类问题中,效果特别好。
- 秩和比综合评价法和熵权法
- 秩和比综合评价法是评价各个对象并排序,但要求指标间关联性不强;熵权法是根据各指标数据变化的相互影响,来进行赋权。两者在对指标处理的方法类似。
- 优劣解距离法(TOPSIS 法)
- 其基本原理,是通过检测评价对象与最优解、最劣解的距离来进行排序,若评价对象最靠近最优解同时又最远离最劣解,则为最好;否则为最差。其中最优解的各指标值都达到各评价指标的最优值。最劣解的各指标值都达到各评价指标的最差值。
- 投影寻踪综合评价法
- 模糊综合评判