面试问题

#include <bits/stdc++.h>

1.sigmod和softmax的区别：

二者都是典型的激活函数，sigmod 函数常用于二分类，softmax 函数常用于多分类。两者都起到了压缩的作用（将输出压缩到0-1）。

2.sigmod和relu的优劣：

Relu优点：（1）relu函数在大于0的部分梯度为常数，所以不会产生梯度弥散现象.。而对于sigmod函数，在正负饱和区的梯度都接近于0，可能会导致梯度消失现象。（2）Relu函数的导数计算更快，所以使用梯度下降时比Sigmod收敛起来要快很多。
Relu缺点：Relu死亡问题。当 x 是小于 0 的时候，那么从此所以流过这个神经元的梯度将都变成 0；这个时候这个 ReLU 单元在训练中将死亡（也就是参数无法更新），这也导致了数据多样化的丢失（因为数据一旦使得梯度为 0，也就说明这些数据已不起作用）。

Sigmod优点：具有很好的解释性，将线性函数的组合输出为0，1之间的概率。
Sigmodu缺点：（1）激活函数计算量大，反向传播求梯度时，求导涉及除法。（2）反向传播时，在饱和区两边导数容易为0，即容易出现梯度消失的情况，从而无法完成深层网络的训练。

C++

1.动态内存和静态内存有什么区别

a. 静态内存是指在程序运行时由编译器分配的内存，它的分配是在程序开始时分配完成的，不占用CPU资源，如程序中的各种变量，在编译时系统已为其分配内存。b. 静态内存在栈上分配。c. 静态内存无需引用和指针类型支持。

a. 动态内存是指在用户无法确定空间大小，或者空间太大，栈上无法分配时，会采用动态内存分配。b. 动态内存在堆上分配。c. 动态内存需要指针和引用类型的支持。

2.堆和栈的区别

堆区（heap）：由程序员分配释放（new/delete，malloc/free），分配方式类似于链表。
栈区（stack）：由编译器自动分配释放，用于函数参数值、局部变量的存放，其操作方式类似于结构中的栈。

3.动态存储和静态存储

静态变量（包括静态全局变量、静态局部变量）、动态全局变量属于静态存储：变量定义时就分配存储单元并保持到程序结束。
局部变量属于动态存储：动态存储变量是在程序执行过程中，使用它时才分配存储单元，使用完毕立即释放。

4.静态变量和动态变量

静态局部变量和动态局部变量：两者作用域相同，都在函数内部，但是两者生命周期不一样，静态局部变量的生命周期是到程序的结束，而动态局部变量的生命周期是函数的结束，静态局部变量的生命周期更长，同时静态局部变量只会初始化一次，函数重复调用，但静态局部变量不会被重新初始化。

#include <iostream>
using namespace std;
void fun()
{
	int a = 0;
	static int b = 0;
	cout << "a = " << a << endl;
	cout << "b = " << b << endl;
	a++;
	b++;
}
int main()
{
	for (int i = 0; i < 5; i++)
		fun();
	system("pause");
	return 0;
}

静态全局变量和动态全局变量：作用域不同，动态全局变量可以通过extern关键字在外部文件中使用，但静态全局变量不可以在外部文件中使用。静态全局变量相当于限制了动态全局变量的作用域。

#include <iostream>
using namespace std;
static int b = 10;
void fun()
{
	int b = 0;
	cout << "b = " << b << endl;
	b++;
}
int main()
{
	for (int i = 0; i < 5; i++)
		fun();
 
	system("pause");
	return 0;
}

5.智能指针

动态内存管理经常会出现两种问题：一种是忘记释放内存，会造成内存泄漏；一种是尚有指针引用内存的情况下就释放了它，就会产生引用非法内存的指针。
为了更加容易（更加安全）的使用动态内存，引入了智能指针的概念。智能指针的行为类似常规指针，重要的区别是它负责自动释放所指向的对象。标准库提供的两种智能指针的区别在于管理底层指针的方法不同，shared_ptr允许多个指针指向同一个对象，unique_ptr则“独占”所指向的对象。标准库还定义了一种名为weak_ptr的伴随类，它是一种弱引用，指向shared_ptr所管理的对象，这三种智能指针都定义在memory头文件中。

6.函数模板和函数重载

相对于函数重载而言，模板具有得天独厚的优势，它不需要重复定义，所以使用起来比函数重载更简洁，但应注意的一点，函数模板只适用于函数的参数个数相同而类型不同，且函数体相同的情况，如果参数的个数不同，则不能用函数模板，这就是函数模板相对于函数重载的缺陷。

7.多态、虚函数、纯虚函数

多态：是对于不同对象接收相同消息时产生不同的动作。C++的多态性具体体现在运行和编译两个方面：在程序运行时的多态性通过继承和虚函数来体现；在程序编译时多态性体现在函数和运算符的重载上。
虚函数：在基类中冠以关键字 virtual 的成员函数。 它提供了一种接口界面。允许在派生类中对基类的虚函数重新定义，如果使用virtual，程序将根据引用或指针指向的对象的类型来选择方法。
纯虚函数的作用：在基类中为其派生类保留一个函数的名字，以便派生类根据需要对它进行定义。作为接口而存在 纯虚函数不具备函数的功能，一般不能直接被调用。