TCS Wiki - User contributions [en]

数据科学基础 (Fall 2026)/Problem Set 2

2026-09-18T16:56:02Z

Liumingmou:

*每道题目的解答都要有完整的解题过程，中英文不限。

*我们推荐大家使用LaTeX, markdown等对作业进行排版。

*没有条件的同学可以用纸笔完成作业之后拍照。

<h2 id="assumption"> Assumption throughout Problem Set 2</h2>
Without further notice, we are working on probability space <math>(\Omega,\mathcal{F},\Pr)</math>.

Without further notice, we assume that the expectation of random variables are well-defined.

The term <math>\log</math> used in this context refers to the natural logarithm.
<h2 id="problem-1">Problem 1 (Warm-up problems)</h2>
* ['''Cumulative distribution function (CDF)'''] Let <math>F</math> be a distribution function and <math>r</math> a positive integer. Show that the following are distribution functions:
*# <math>F(x)^r</math>,
*# <math>1 − (1− F(x))^r</math>,
*# <math>F(x)+ (1− F(x))\cdot\log(1− F(x))</math>,
*# <math>(F(x)− 1)\cdot e + \exp(1− F(x))</math>.
* [Probability mass function (PMF)] Let <math>S_k</math> be the set of positive integers whose base-10 expansion contains exactly <math>k</math> elements (so that, for example, <math>1024 \in S_4</math>). A fair coin is tossed until the first head appears, and we write <math>T</math> for the number of tosses required. We pick a random element, <math>N</math> say, from <math>S_T</math> , each such element having equal probability. What is the mass function of <math>N</math>?
* ['''Transitive coins'''] Three coins each show heads with probability <math>3/5</math> and tails otherwise. The first counts 10 points for a head and 2 for a tail, the second counts 4 points for both head and tail, and the third counts 3 points for a head and 20 for a tail. You and your opponent each choose a coin; you cannot choose the same coin. Each of you tosses your coin and the person with the larger score wins £<math>10^{10}</math>. Would you prefer to be the first to pick a coin or the second?
* ['''Estimator'''] Let [math]\{X_r : r \ge 1\}[/math] be observations which are independent and identically distributed with unknown distribution function [math]F[/math]. Describe and justify a method for estimating [math]F(x)[/math].
* ['''Independence'''] Three players, A, B, and C, take turns to roll a die; they do this in the order ABCABCA....
*# Show that the probability that, of the three players, A is the first to throw a 6, B the second, and C the third, is 216/1001.
*# Show that the probability that the first 6 to appear is thrown by A, the second 6 to appear is thrown by B, and the third 6 to appear is thrown by C, is 46656/753571.
* ['''Joint distribution'''] Is the function <math>F(x,y)= 1− e^{−xy}, 0 \le x,y <\infty</math>, the joint distribution function of some pair of random variables?
* [Jensen's entropy] Let [math]X[/math] be a discrete random variable with range of values [math][N] = \{1,2,\ldots,N\}[/math] and probability mass function [math]p[/math]. Define [math]H(X) = -\sum_{n \ge 1} p(n) \log p(n)[/math] with convention [math]0\log 0 = 0[/math]. Prove that [math]H(X) \le \log N[/math] using Jensen's inequality.
* [Law of total expectation] Let <math>\{X_n\}_{n \ge 1}</math> be identically distributed random variable and <math>N</math> be a random variable taking values in the non-negative integers and independent of the <math>X_n</math> for all <math>n \ge 1</math>. Prove that <math>\mathbf{E}\left[\sum_{i=1}^N X_i\right] = \mathbf{E}[N] \mathbf{E}[X_1]</math>.
* ['''Composing random variables'''] Show that any discrete random variable may be written as a linear combination of indicator variables.

== Problem 2 (Discrete random variable) ==
* [Geometric distribution] Prove that geometric distribution is the only discrete memoryless distribution with range values <math>\mathbb{N}_+</math>.
* [Binomial distribution] Consider a binomial random variable <math>X</math> with parameters <math>n</math> and <math>p</math>. Let <math>k^*</math> be the largest integer that is less than or equal to <math>(n + 1)p</math>. Show that the PMF <math>p_x (k)</math> is monotonically nondecreasing with <math>k</math> in the range from <math>0</math> to <math>k^*</math> . and is monotonically decreasing with <math>k</math> for <math>k \ge k^*</math> .
* [Negative binomial distribution] Let <math>X</math> follows the negative binomial distribution with parameter <math>r \in \mathbb{N}_+</math> and <math>p \in (0,1)</math>. Calculate <math>\mathbf{Var}[X] = \mathbf{E}[X^2] - \left(\mathbf{E}[X]\right)^2</math>.
* [Hypergeometric distribution (i)] An urn contains [math]N[/math] balls, [math]b[/math] of which are blue and [math]r = N -b[/math] of which are red. A random sample of [math]n[/math] balls is drawn without replacement (无放回) from the urn. Let [math]B[/math] the number of blue balls in this sample. Show that if [math]N, b[/math], and [math]r[/math] approach [math]+\infty[/math] in such a way that [math]b/N \rightarrow p[/math] and [math]r/N \rightarrow 1 - p[/math], then [math]\Pr(B = k) \rightarrow {n\choose k}p^k(1-p)^{n-k}[/math] for [math]0\leq k \leq n[/math].
* [Hypergeometric distribution (ii)] Let [math]X[/math] and [math]Y[/math] be independent [math]\mathrm{Bin}(n,p)[/math] variables, and let [math]Z= X + Y[/math] . Show that the conditional distribution of [math]X[/math] given [math]Z= N[/math] is the hypergeometric distribution.
*['''Multinomial distribution'''] Prove by calculating that the marginal distribution of multinomial distribution is binomial distribution.
*['''Poisson distribution'''] In your pocket is a random number <math>N</math> of coins, where <math>N</math> has the Poisson distribution with parameter <math>\lambda</math>. You toss each coin once, with heads showing with probability <math>p</math> each time. Let <math>X</math> be the (random) number of heads outcomes and <math>Y</math> be the (also random) number of tails.
*# Find the joint mass function of <math>(X,Y)</math>.
*# Find PMF of the marginal distribution of <math>X</math> in <math>(X,Y)</math>. Are <math>X</math> and <math>Y</math> independent?

== Problem 3 (Expectation) ==
* ['''Expectation'''] Is it generally true that [math]\mathbb{E}[1/X] = 1/\mathbb{E}[X][/math]? Is it ever true that [math]\mathbb{E}[1/X] = 1/\mathbb{E}[X][/math]?
* ['''Error'''] Let <math>X</math> and <math>Y</math> be independent with mean <math>\mu</math>. Explain the error in the following equation: <math>\mathbb E[X|X+Y=z]=\mathbb E[X|X=z-Y]=\mathbb E[z-Y]=z-\mu</math>.
* ['''Optimal stopping time'''] You roll a conventional fair die repeatedly. If it shows 1, you must stop, but you may choose to stop at any prior time. Your score is the number shown by the die on the final roll. What stopping strategy yields the greatest expected score? What strategy would you use if your score were the square of the final roll?
* ['''Streak'''] Suppose we flip a fair coin <math>n</math> times independently to obtain a sequence of flips <math>X_1, X_2, \ldots , X_n</math>. A streak of flips is a consecutive subsequence of flips that are all the same. For example, if <math>X_3</math>, <math>X_4</math>, and <math>X_5</math> are all heads, there is a streak of length <math>3</math> starting at the third lip. (If <math>X_6</math> is also heads, then there is also a streak of length <math>4</math> starting at the third lip.) Find the expected number of streaks of length <math>k</math> for some integer <math>k \ge 1</math>.
*['''Tail sum for expectation (double counting)''']
*# If <math>X</math> takes non-negative integer values show that <math>\mathbb E[X]=\sum_{n=0}^\infty \Pr[X>n]</math>.
*# An urn contains <math>b</math> blue and <math>r</math> red balls. Balls are removed at random until the first blue ball is drawn. Show that the expected number drawn is <math>(b + r + 1)/(b + 1)</math>.
*# The balls are replaced and then removed at random until all the remaining balls are of the same colour. （现在我们把所有球都放回去，然后再次随机地把球无放回地取出来，直到剩下的小球都是同色的。） Find the expected number remaining in the urn.
*# Let <math>X</math> and <math>Y</math> be independent random variables taking values in the non-negative integers, with finite means. Let <math>U= \min\{X,Y \}</math> and <math>V= \max\{X,Y \}</math>. Show that <math>
\begin{align*}
\mathbb E[U]&=\sum_{r=1}^\infty \Pr[X\ge r]\Pr[Y\ge r]\\
\mathbb E[V]&=\sum_{r=1}^\infty \bigg(\Pr[X\ge r]+\Pr[Y\ge r]-\Pr[X\ge r]\Pr[Y\ge r]\bigg)\\
\mathbb E[UV]&=\sum_{r,s=1}^\infty \Pr[X\ge r]\Pr[Y\ge s].
\end{align*}
</math>
*# Let <math>X</math> take values in the non-negative integers. Show that <math>\mathbb E[X^2]=\mathbb E[X]+2\sum_{r=0}^\infty r\Pr[X>r]=\sum_{r=0}^\infty (2r+1)\Pr[X>r]</math>, and find a similar formula for <math>\mathbb E[X^3]</math>.

== Problem 4 (Random graph) ==
* ['''Turán's Theorem'''] Let <math>G=(V,E)</math> be a fixed undirected graph, and write <math>d_v</math> for the degree of the vertex <math>v</math>. Use probablistic method to prove that <math>\alpha(G) \ge \sum_{v \in V} \frac{1}{d_v + 1}</math>. (Hint: Consider the following random procedure for generating an independent set <math>I</math> from a graph with vertex set <math>V</math>: First, generate a random permutation of the vertices, denoted as <math>v_1,v_2,\ldots,v_n</math>. Then, construct the independent set <math>I</math> as follows: For each vertex <math>v_i \in V</math>, add <math>v_i</math> to <math>I</math> if and only if none of its predecessors in the permutation, i.e., <math>v_1,\ldots,v_{i-1}</math>, are neighbors of <math>v_i</math>.)
*['''Dominating set'''] A ''dominating set'' of vertices in an undirected graph <math>G = (V, E)</math> is a set <math>S \subseteq V</math> such that every vertex of <math>G</math> belongs to <math>S</math> or has a neighbor in <math>S</math>. Let <math>G = (V, E)</math> be an <math>n</math>-vertex graph with minimum degree <math>d > 1</math>. Prove that <math>G</math> has a dominating set with at most <math>\frac{n\left(1+\log(d+1)\right)}{d+1}</math> vertices. (Hint: Consider a random vertex subset <math>S \subseteq V</math> by including each vertex independently with probability <math>p \triangleq \log(d + 1)/(d + 1)</math>.)

数据科学基础 (Fall 2026)

2026-09-18T15:31:29Z

Liumingmou: /* Assignments */

{{Infobox
|name = Infobox
|bodystyle =
|title = '''数据科学基础''' 
Foundations of Data Science
|titlestyle =

|image =
|imagestyle =
|caption =
|captionstyle =
|headerstyle = background:#ccf;
|labelstyle = background:#ddf;
|datastyle =

|header1 =Instructor
|label1 =
|data1 =
|header2 =
|label2 =
|data5 = '''刘明谋'''
|header6 =
|label6 = Email
|data6 = lmm@nju.edu.cn
|header7 =
|label7 = office
|data7 = 南雍-西229
|header8 = Class
|label8 =
|data8 =
|header9 =
|label9 = Class meeting
|data9 = 周五, 18:30-21:20 南雍楼-东108
|header10=
|label10 = Office hour
|data10 = 周四, 3pm-5pm 南雍-西229
|header11= Textbook
|label11 =
|data11 =
|header12=
|label12 =
|data12 = [[File:概率导论.jpeg|border|100px]]
|header13=
|label13 =
|data13 = '''概率导论'''（第2版·修订版） Dimitri P. Bertsekas and John N. Tsitsiklis 郑忠国童行伟译；人民邮电出版社 (2022)
|header14=
|label14 =
|data14 = [[File:Probability_and_Computing_2ed.jpg|border|100px]]
|header15=
|label15 =
|data15 = '''Probability and Computing''' (2E) Michael Mitzenmacher and Eli Upfal Cambridge University Press (2017)
|header16=
|label16 =
|data16 = [[File:Foundations_of_Data_Science.jpg|border|100px]]
|header17=
|label17 =
|data17 = '''Foundations of Data Science''' Avrim Blum, John Hopcroft, Ravi Kannan Cambridge University Press (2020)
|belowstyle = background:#ddf;
|below =
}}

This is the webpage for the ''Foundations of Data Science'' (数据科学基础) class of Fall 2025. Students who take this class should check this page periodically for content updates and new announcements.

= Announcement =
* 新学期第一堂课：2026年8月28日，苏教楼B207。
* 从9月11日开始在南雍楼-东108上课。

= Course info =
* '''任课教师''':
:* [https://liumingmou.github.io 刘明谋]：[mailto:lmm@nju.edu.cn 📧]，南雍-西229
* '''助教''':
** 王思齐：[mailto:siqi_wang@smail.nju.edu.cn 📧]
** 齐世毅：[mailto:1083951258@qq.com 📧]
* '''课程时间地点''':
** 周五，18:30-21:20，南雍楼-东108
* '''qq群''': 1106577612

= Syllabus =
课程内容分为三大部分：

* '''经典概率论'''：包括概率空间、随机变量及其数字特征、多维与连续随机变量
* '''概率与计算'''：包括测度集中现象，概率法，离散随机过程三部分
* '''数理统计'''：包括参数估计、假设检验、贝叶斯估计、方差分析、相关性及回归分析等统计推断内容。

对于第一和第二部分，要求清楚掌握基本概念，深刻理解关键的现象与规律以及背后的原理，并可以灵活运用所学方法求解相关问题。对于第三部分，要求熟悉数理统计相关的基本概念，以及典型的统计模型、统计推断方法。

经过本课程的训练，学生将能够掌握概率论和统计学的基本理论和方法，具备处理和分析实际数据的能力，为后续学习数据挖掘、机器学习、大数据技术等数据科学相关领域打下坚实基础。本课程采用课堂讲授、案例分析和课后练习相结合的教学方式，注重理论与实践相结合，培养学生运用所学知识解决实际问题的能力。通过本课程的学习，学生将能够具备扎实的数学基础，为未来从事数据科学研究和实践奠定坚实基础。

=== 教材与参考书 Course Materials ===
* '''[BT]''' 概率导论（第2版·修订版），[美]伯特瑟卡斯（Dimitri P.Bertsekas）[美]齐齐克利斯（John N.Tsitsiklis）著，郑忠国童行伟译，人民邮电出版社（2022）。
* '''[MU]''' ''Probability and Computing: Randomization and Probabilistic Techniques in Algorithms and Data Analysis'', by Michael Mitzenmacher, Eli Upfal; Cambridge University Press; 2nd edition (2017).
* '''[GS]''' ''Probability and Random Processes'', by Geoffrey Grimmett and David Stirzaker; Oxford University Press; 4th edition (2020).
* '''[BHK]''' ''Foundations of Data Science'', by Avrim Blum, John Hopcroft, and Ravindran Kannan; Cambridge University Press (2020).

=== 成绩 Grading Policy ===
* 课程成绩：本课程将会有若干次作业和期中期末考试。最终成绩将由平时作业成绩和期末考试成绩综合得出。
* 迟交：如果有特殊的理由，无法按时完成作业，请提前联系授课老师，给出正当理由。否则迟交的作业将不被接受。

=== 学术诚信 Academic Integrity ===
学术诚信是所有从事学术活动的学生和学者最基本的职业道德底线，本课程将不遗余力的维护学术诚信规范，违反这一底线的行为将不会被容忍。

作业完成的原则：'''署你名字的工作必须是你个人的贡献，任何不是由你完成的部分都必须明确标注'''，特别是由AI生成的部分，否则就涉嫌抄袭。在完成作业的过程中，允许讨论，前提是讨论的所有参与者均处于同等完成度。但关键想法的执行、以及作业文本的写作必须独立完成，并在作业中致谢（acknowledge）所有参与讨论的人。符合规则的讨论与致谢将不会影响得分。不允许其他任何形式的合作——尤其是与已经完成作业的同学“讨论”。

本课程将对剽窃行为采取零容忍的态度。在完成作业过程中，对他人工作（出版物、互联网资料、其他人的作业等）直接的文本抄袭和对关键思想、关键元素的抄袭，按照 [http://www.acm.org/publications/policies/plagiarism_policy ACM Policy on Plagiarism]的解释，都将视为剽窃。剽窃者成绩将被取消。如果发现互相抄袭行为， 抄袭和被抄袭双方的成绩都将被取消。因此请主动防止自己的作业被他人抄袭。

学术诚信影响学生个人的品行，也关乎整个教育系统的正常运转。为了一点分数而做出学术不端的行为，不仅使自己沦为一个欺骗者，也使他人的诚实努力失去意义。让我们一起努力维护一个诚信的环境。

= Assignments =
*[[数据科学基础 (Fall 2026)/Problem Set 1|Problem Set 1]] 请在 2026/09/25 18:30 UTC+8前上传到 [https://box.nju.edu.cn/u/d/e8eb6d14003146738d87/ 南大云盘] (文件名为'学号_姓名.pdf').
*[[数据科学基础 (Fall 2026)/Problem Set 2|Problem Set 2]] 请在 2026/10/09 上课之前(18:30 UTC+8)上传到 [https://box.nju.edu.cn/u/d/ef3b65a82c9a44f0bdba/ 南大云盘] (文件名为'学号_姓名.pdf').

= Lectures =
# [https://box.nju.edu.cn/f/325086e21b594e7882c7/ 课程简介]
#* [https://www.bilibili.com/video/BV1Vkz4YqEC9 Bertrand Paradox (贝特朗悖论)的视频]
# [https://box.nju.edu.cn/f/b7410b6c349a438bbfa6/ 概率空间]
#* 阅读：'''[BT] 第1章'''
# [https://box.nju.edu.cn/f/79173b5b2d7445589731/ 随机变量]
#* 阅读：'''[BT] 第2章'''
#* 阅读：'''[MU] Chapter 2'''
#* [[数据科学基础 (Fall 2024)/Volume of Hamming balls|Volume of Hamming balls]]
#* [[数据科学基础 (Fall 2024)/Average-case analysis of QuickSort|Average-case analysis of '''''QuickSort''''']]
#* [https://www.bilibili.com/video/BV1ta411A7fp/ 高尔顿板（Galton board）视频] 和 [https://en.wikipedia.org/wiki/Galton_board 维基百科页面]

= Concepts =
* [https://plato.stanford.edu/entries/probability-interpret/ Interpretations of probability]
* [https://en.wikipedia.org/wiki/History_of_probability History of probability]
* Example problems:
** [https://dornsifecms.usc.edu/assets/sites/520/docs/VonNeumann-ams12p36-38.pdf von Neumann's Bernoulli factory] and other [https://peteroupc.github.io/bernoulli.html Bernoulli factory algorithms]
** [https://en.wikipedia.org/wiki/Boy_or_Girl_paradox Boy or Girl paradox]
** [https://en.wikipedia.org/wiki/Monty_Hall_problem Monty Hall problem]
** [https://en.wikipedia.org/wiki/Bertrand_paradox_(probability) Bertrand paradox]
** [https://en.wikipedia.org/wiki/Hard_spheres Hard spheres model] and [https://en.wikipedia.org/wiki/Ising_model Ising model]
** [https://en.wikipedia.org/wiki/PageRank ''PageRank''] and stationary [https://en.wikipedia.org/wiki/Random_walk random walk]
** [https://en.wikipedia.org/wiki/Diffusion_process Diffusion process] and [https://en.wikipedia.org/wiki/Diffusion_model diffusion model]
*[https://en.wikipedia.org/wiki/Probability_space Probability space]
** [https://en.wikipedia.org/wiki/Sample_space Sample space]
** [https://en.wikipedia.org/wiki/Event_(probability_theory) Event] and [https://en.wikipedia.org/wiki/Σ-algebra <math>\sigma</math>-algebra]
** Kolmogorov's [https://en.wikipedia.org/wiki/Probability_axioms axioms of probability]
* [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Classical] and [https://en.wikipedia.org/wiki/Geometric_probability goemetric probability]
* [https://en.wikipedia.org/wiki/Boole%27s_inequality Union bound]
** [https://en.wikipedia.org/wiki/Inclusion%E2%80%93exclusion_principle Inclusion-Exclusion principle]
** [https://en.wikipedia.org/wiki/Boole%27s_inequality#Bonferroni_inequalities Bonferroni inequalities]
* [https://en.wikipedia.org/wiki/Conditional_probability Conditional probability]
** [https://en.wikipedia.org/wiki/Chain_rule_(probability) Chain rule]
** [https://en.wikipedia.org/wiki/Law_of_total_probability Law of total probability]
** [https://en.wikipedia.org/wiki/Bayes%27_theorem Bayes' law]
* [https://en.wikipedia.org/wiki/Independence_(probability_theory) Independence]
** [https://en.wikipedia.org/wiki/Pairwise_independence Pairwise independence]
* [https://en.wikipedia.org/wiki/Random_variable Random variable]
** [https://en.wikipedia.org/wiki/Cumulative_distribution_function Cumulative distribution function]
** [https://en.wikipedia.org/wiki/Probability_mass_function Probability mass function]
** [https://en.wikipedia.org/wiki/Probability_density_function Probability density function]
* [https://en.wikipedia.org/wiki/Multivariate_random_variable Random vector]
** [https://en.wikipedia.org/wiki/Joint_probability_distribution Joint probability distribution]
** [https://en.wikipedia.org/wiki/Conditional_probability_distribution Conditional probability distribution]
** [https://en.wikipedia.org/wiki/Marginal_distribution Marginal distribution]
* Some '''discrete''' probability distributions
** [https://en.wikipedia.org/wiki/Bernoulli_trial Bernoulli trial] and [https://en.wikipedia.org/wiki/Bernoulli_distribution Bernoulli distribution]
** [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Discrete uniform distribution]
** [https://en.wikipedia.org/wiki/Binomial_distribution Binomial distribution]
** [https://en.wikipedia.org/wiki/Geometric_distribution Geometric distribution]
** [https://en.wikipedia.org/wiki/Negative_binomial_distribution Negative binomial distribution]
** [https://en.wikipedia.org/wiki/Hypergeometric_distribution Hypergeometric distribution]
** [https://en.wikipedia.org/wiki/Poisson_distribution Poisson distribution]
** and [https://en.wikipedia.org/wiki/List_of_probability_distributions#Discrete_distributions others]
* Balls into bins model
** [https://en.wikipedia.org/wiki/Multinomial_distribution Multinomial distribution]
** [https://en.wikipedia.org/wiki/Birthday_problem Birthday problem]
** [https://en.wikipedia.org/wiki/Coupon_collector%27s_problem Coupon collector]
** [https://en.wikipedia.org/wiki/Balls_into_bins_problem Occupancy problem]
* Random graphs
** [https://en.wikipedia.org/wiki/Erd%C5%91s%E2%80%93R%C3%A9nyi_model Erdős–Rényi random graph model]
** [https://en.wikipedia.org/wiki/Galton%E2%80%93Watson_process Galton–Watson branching process]
* [https://en.wikipedia.org/wiki/Expected_value Expectation]
** [https://en.wikipedia.org/wiki/Law_of_the_unconscious_statistician Law of the unconscious statistician, ''LOTUS'']
** [https://dlsun.github.io/probability/linearity.html Linearity of expectation]
** [https://en.wikipedia.org/wiki/Conditional_expectation Conditional expectation]
** [https://en.wikipedia.org/wiki/Law_of_total_expectation Law of total expectation]

Theory@Suzhou 2026

2026-09-16T13:31:16Z

Liumingmou: /* Speakers (in alphabetic order) */

==General Information ==

*'''Sunday, Nov 22, 2026: 09:00 -- 18:00.'''
* '''Location''': 南京大学苏州校区
* '''Venue''': TBA


==Speakers (in alphabetic order)==
* [https://lozycs.github.io/ 刘正阳]（北京理工大学）
* [https://person.zju.edu.cn/maoyc 毛宇尘]（浙江大学）
* [http://staff.ustc.edu.cn/~wwwucuc/ 邵帅]（待定）（中国科学技术大学）
* [https://tomtao26.github.io/ 陶亦心]（上海财经大学）
* [https://weizhewei.com/ 魏哲巍]（中国人民大学）
* [https://penghuiyao.info/ 姚鹏晖]（南京大学）
* [http://www.zyhwtc.com/ 张宇昊]（上海交通大学）
* [https://math.fzu.edu.cn/info/1102/6698.htm 周宏]（福州大学）

== Join us==
'''不需注册'''。
本次活动涵盖覆盖市场与博弈、计数复杂性、子集和与加性组合、矩阵集中与去随机化、量子复杂性、局部图算法在内的多个主题，欢迎所有对理论计算机科学感兴趣的同学和老师前来参加。 

== Program ==
TBA

== Getting to The Campus==
*入校：
**关注微信公众号“南京大学信息门户”，点击门户首页左下角“i校园”-“访客通行”
**审核人单位：智能软件与工程学院。审核人姓名：石会
**如开车进校，请将车牌号填写到“随行车辆车牌”处。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Accommodation Suggestion ==
￥￥￥苏州科技城源宿酒店 
￥￥南大国际学术交流中心（校内酒店，性价比高）、苏州科技城万达美华酒店、全季苏州科技城酒店、苏州高新区科技城亚朵酒店 
￥格林豪泰苏州市科技城商务酒店、宜必思尚品苏州科技城酒店、如家精选-苏州乐园高新区科技城店

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== Contact ==
刘明谋： lmm@nju.edu.cn

计算理论之美2026

2026-09-16T07:48:28Z

Liumingmou: /* Getting to The Campus */

{{Infobox
|name = Infobox
|headerstyle = background:#4D72BE;
|labelstyle = background:#DAE1F0;

|header1 = 计算理论之美
|label2 = {{Nowrap|负责人}}
|data2 = 黄棱潇 ([mailto:huanglingxiao@nju.edu.cn huanglingxiao@nju.edu.cn])
|label4 = 时间
|data4 = 2026.7.23 — 2026.7.28
|label5 = 地点
|data5 = {{Nowrap|南京大学苏州校区苏教楼D202}}
|belowstyle = background:#DAE1F0;
|below =
}}

由南京大学计算机学院和智能软件学院支持的第5届“计算理论之美”暑期讲习班将于2026年7月24日至7月27日在江苏省苏州市南京大学苏州校区开班。本次讲习班将围绕算法设计主题开展系列报告，包括组合最优化、哈希表、差分隐私、量子计算、关于图的数据流算法、图计算、分布式算法等板块，主要面向对理论计算机科学以及计算机科学中的数学感兴趣的国内外本科生，安排4天的高级课程。内容深入浅出，由国内外一线的优秀学者讲授，使学员初步了解理论计算机科学的一些研究前沿、初步掌握一些新理论与新方法，为有志于从事理论计算机科学研究的学者打下一定的基础，也让从事其他相关方向研究的学生与教师们领略计算理论的魅力。

联系邮箱：nju_tcs@163.com

联系人：
* 黄棱潇： huanglingxiao@nju.edu.cn
* 刘明谋： lmm@nju.edu.cn
* 班吟： 175227530@qq.com

注册报名流程：由于前几届报名人数过多，本届将会采用问卷初筛形式进行报名。请同学们先填写以下调查问卷:

https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

问卷报名截止日期： 2026.6.20

通过初筛的同学将于讲习班开始前两周收到包含报名链接的邮件。由于今年讲习班将在苏州校区举办，南京校区的南大同学如需统一安排住宿，也请填写问卷；无需安排住宿的南大同学，'''无需填写问卷或报名，可在讲习班期间直接前往会场听取报告。'''

费用：本科生包住宿，非本科生不包含住宿。餐费自理。

'''<big>对讲习班感兴趣的九月份入学南大新生，欢迎在志愿填报完成后报名参加（发送邮箱至： nju_tcs@163.com）</big>'''

== Tentative Schedule ==

Venue (地点)：南京大学苏州校区苏教楼D202
[[File:苏教楼D.png|thumb|苏教楼D在图中红星处]]
Accommodation：南京大学苏州校区国际学术交流中心 
Group photo: 7月24日上午茶歇环节中安排参会者合影留念

Speakers (in lexicographic order): 陈林（浙江大学）、丁尧相（浙江大学）、刘明谋（南京大学）、Pasin Manurangsi（Google Research）、任瀚林（IAS）、王启圣（上海交通大学）、王宇扬(中国科学技术大学）、俞华程（普林斯顿大学）、张天翼（南京大学）、郑朝栋（南京大学）

:{|border="2" width="97%" cellspacing="4" cellpadding="3" rules="all" style="margin:1em 1em 1em 0; border:solid 1px #AAAAAA; border-collapse:collapse; empty-cells:show;"

|-
|bgcolor="#4D72BE" align="center" style="width: 21%"|'''Time'''
|bgcolor="#4D72BE" align="center"|'''Title'''
|bgcolor="#4D72BE" align="center" style="width: 40%"|'''Speaker'''
|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月23日 July, 23rd'''
|-
|align="center" colspan="3"|19:00 – 20:00 专家讨论会
|-

|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月24日 July, 24th'''

|-
|align="center"|8:30 — 12:00
|align="center"|图染色算法
|align="center"|张天翼（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|图流算法
|align="center"|俞华程（普林斯顿大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月25日 July, 25th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Quantum Computation
|align="center"|王启圣（上海交通大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|现代哈希表设计
|align="center"|刘明谋（南京大学）
|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月26日 July, 26th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Differential Privacy
|align="center"|Pasin Manurangsi（Google Research）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|加性组合与算法设计
|align="center"|陈林（浙江大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月27日 July, 27th'''

|-
|align="center"|8:30 — 12:00
|align="center"|分布式算法与单机算法的同与异
|align="center"|郑朝栋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 15:00
|align="center"|Neuro-symbolic AI
|align="center"|丁尧相（浙江大学）

|-
|align="center" colspan="3"|15:00 — 15:10　休息

|-
|align="center"|15:10 — 16:10
|align="center"|Recent progress on near-maximum circuit lower bounds
|align="center"|任瀚林（Institute for Advanced Study）

|-
|align="center" colspan="3"|16:10 — 16:20　休息

|-
|align="center"|16:20 — 17:20
|align="center"|扩展图上生成树的局部计算算法
|align="center"|王宇扬（中国科学技术大学）

|-
|align="center" colspan="3"|17:20 — 17:30　交流
|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月28日 July, 28th'''
|-
|align="center" colspan="3"|09:00 – 10:00 专家讨论会
|-
|}

== Take-home Exams ==
成绩优秀的同学可推荐参加南京大学计算机学院预推免保研面试，并在录取后可凭借此次暑期讲习班申请两个研究生学分。

作业提交方式：发送电子版到邮箱nju_tcs@163.com

== Getting to The Campus==
*入校：人员及车辆凭电子版会议通知进校。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== About Our Summer School ==
Our summer school is supported by the School of Computer Science and the School of Intelligent Software and Engineering at Nanjing University and will be held from July 24th to July 27th, 2026, at the Suzhou Campus of Nanjing University in Suzhou, Jiangsu Province, China. The theme of this year's summer school will be the design and analysis of algorithms, with topics ranging from combinatorial optimization, hash table design, differential privacy, quantum computing, streaming algorithms for graphs, graph algorithms, and distributed algorithms.
Target audience will include aspiring undergraduate and graduate students from China and overseas, and the program will feature 4 days of advanced courses. The courses will be presented by leading young scholars both from within China and overseas, covering both cutting-edge research and modern toolkits in theoretical computer science.
The summer school will help connect aspiring young students with young scholars to engage research in theoretical computer science, and embark on a journey to appreciate the charm of computational theory.

Accommodation (shared room) will be provided to undergraduates only.

Due to capacity, we prioritize undergraduates seeking to join NJU TCS group for PhD or for a research intern. To register, please fill out the following form: https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

If you are selected into our summer school, you will receive a confirmation email.

计算理论之美2026

2026-09-16T07:47:24Z

Liumingmou: /* Tentative Schedule */

{{Infobox
|name = Infobox
|headerstyle = background:#4D72BE;
|labelstyle = background:#DAE1F0;

|header1 = 计算理论之美
|label2 = {{Nowrap|负责人}}
|data2 = 黄棱潇 ([mailto:huanglingxiao@nju.edu.cn huanglingxiao@nju.edu.cn])
|label4 = 时间
|data4 = 2026.7.23 — 2026.7.28
|label5 = 地点
|data5 = {{Nowrap|南京大学苏州校区苏教楼D202}}
|belowstyle = background:#DAE1F0;
|below =
}}

由南京大学计算机学院和智能软件学院支持的第5届“计算理论之美”暑期讲习班将于2026年7月24日至7月27日在江苏省苏州市南京大学苏州校区开班。本次讲习班将围绕算法设计主题开展系列报告，包括组合最优化、哈希表、差分隐私、量子计算、关于图的数据流算法、图计算、分布式算法等板块，主要面向对理论计算机科学以及计算机科学中的数学感兴趣的国内外本科生，安排4天的高级课程。内容深入浅出，由国内外一线的优秀学者讲授，使学员初步了解理论计算机科学的一些研究前沿、初步掌握一些新理论与新方法，为有志于从事理论计算机科学研究的学者打下一定的基础，也让从事其他相关方向研究的学生与教师们领略计算理论的魅力。

联系邮箱：nju_tcs@163.com

联系人：
* 黄棱潇： huanglingxiao@nju.edu.cn
* 刘明谋： lmm@nju.edu.cn
* 班吟： 175227530@qq.com

注册报名流程：由于前几届报名人数过多，本届将会采用问卷初筛形式进行报名。请同学们先填写以下调查问卷:

https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

问卷报名截止日期： 2026.6.20

通过初筛的同学将于讲习班开始前两周收到包含报名链接的邮件。由于今年讲习班将在苏州校区举办，南京校区的南大同学如需统一安排住宿，也请填写问卷；无需安排住宿的南大同学，'''无需填写问卷或报名，可在讲习班期间直接前往会场听取报告。'''

费用：本科生包住宿，非本科生不包含住宿。餐费自理。

'''<big>对讲习班感兴趣的九月份入学南大新生，欢迎在志愿填报完成后报名参加（发送邮箱至： nju_tcs@163.com）</big>'''

== Tentative Schedule ==

Venue (地点)：南京大学苏州校区苏教楼D202
[[File:苏教楼D.png|thumb|苏教楼D在图中红星处]]
Accommodation：南京大学苏州校区国际学术交流中心 
Group photo: 7月24日上午茶歇环节中安排参会者合影留念

Speakers (in lexicographic order): 陈林（浙江大学）、丁尧相（浙江大学）、刘明谋（南京大学）、Pasin Manurangsi（Google Research）、任瀚林（IAS）、王启圣（上海交通大学）、王宇扬(中国科学技术大学）、俞华程（普林斯顿大学）、张天翼（南京大学）、郑朝栋（南京大学）

:{|border="2" width="97%" cellspacing="4" cellpadding="3" rules="all" style="margin:1em 1em 1em 0; border:solid 1px #AAAAAA; border-collapse:collapse; empty-cells:show;"

|-
|bgcolor="#4D72BE" align="center" style="width: 21%"|'''Time'''
|bgcolor="#4D72BE" align="center"|'''Title'''
|bgcolor="#4D72BE" align="center" style="width: 40%"|'''Speaker'''
|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月23日 July, 23rd'''
|-
|align="center" colspan="3"|19:00 – 20:00 专家讨论会
|-

|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月24日 July, 24th'''

|-
|align="center"|8:30 — 12:00
|align="center"|图染色算法
|align="center"|张天翼（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|图流算法
|align="center"|俞华程（普林斯顿大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月25日 July, 25th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Quantum Computation
|align="center"|王启圣（上海交通大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|现代哈希表设计
|align="center"|刘明谋（南京大学）
|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月26日 July, 26th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Differential Privacy
|align="center"|Pasin Manurangsi（Google Research）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|加性组合与算法设计
|align="center"|陈林（浙江大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月27日 July, 27th'''

|-
|align="center"|8:30 — 12:00
|align="center"|分布式算法与单机算法的同与异
|align="center"|郑朝栋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 15:00
|align="center"|Neuro-symbolic AI
|align="center"|丁尧相（浙江大学）

|-
|align="center" colspan="3"|15:00 — 15:10　休息

|-
|align="center"|15:10 — 16:10
|align="center"|Recent progress on near-maximum circuit lower bounds
|align="center"|任瀚林（Institute for Advanced Study）

|-
|align="center" colspan="3"|16:10 — 16:20　休息

|-
|align="center"|16:20 — 17:20
|align="center"|扩展图上生成树的局部计算算法
|align="center"|王宇扬（中国科学技术大学）

|-
|align="center" colspan="3"|17:20 — 17:30　交流
|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月28日 July, 28th'''
|-
|align="center" colspan="3"|09:00 – 10:00 专家讨论会
|-
|}

== Take-home Exams ==
成绩优秀的同学可推荐参加南京大学计算机学院预推免保研面试，并在录取后可凭借此次暑期讲习班申请两个研究生学分。

作业提交方式：发送电子版到邮箱nju_tcs@163.com

== Getting to The Campus==
*入校：人员及车辆凭[https://tcs.nju.edu.cn/wiki/images/d/d3/%E8%AE%A1%E7%AE%97%E7%90%86%E8%AE%BA%E4%B9%8B%E7%BE%8E2026%E4%BC%9A%E8%AE%AE%E9%80%9A%E7%9F%A5.pdf 电子版会议通知]进校。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== About Our Summer School ==
Our summer school is supported by the School of Computer Science and the School of Intelligent Software and Engineering at Nanjing University and will be held from July 24th to July 27th, 2026, at the Suzhou Campus of Nanjing University in Suzhou, Jiangsu Province, China. The theme of this year's summer school will be the design and analysis of algorithms, with topics ranging from combinatorial optimization, hash table design, differential privacy, quantum computing, streaming algorithms for graphs, graph algorithms, and distributed algorithms.
Target audience will include aspiring undergraduate and graduate students from China and overseas, and the program will feature 4 days of advanced courses. The courses will be presented by leading young scholars both from within China and overseas, covering both cutting-edge research and modern toolkits in theoretical computer science.
The summer school will help connect aspiring young students with young scholars to engage research in theoretical computer science, and embark on a journey to appreciate the charm of computational theory.

Accommodation (shared room) will be provided to undergraduates only.

Due to capacity, we prioritize undergraduates seeking to join NJU TCS group for PhD or for a research intern. To register, please fill out the following form: https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

If you are selected into our summer school, you will receive a confirmation email.

计算理论之美2026

2026-09-16T07:47:03Z

Liumingmou: /* Tentative Schedule */

{{Infobox
|name = Infobox
|headerstyle = background:#4D72BE;
|labelstyle = background:#DAE1F0;

|header1 = 计算理论之美
|label2 = {{Nowrap|负责人}}
|data2 = 黄棱潇 ([mailto:huanglingxiao@nju.edu.cn huanglingxiao@nju.edu.cn])
|label4 = 时间
|data4 = 2026.7.23 — 2026.7.28
|label5 = 地点
|data5 = {{Nowrap|南京大学苏州校区苏教楼D202}}
|belowstyle = background:#DAE1F0;
|below =
}}

由南京大学计算机学院和智能软件学院支持的第5届“计算理论之美”暑期讲习班将于2026年7月24日至7月27日在江苏省苏州市南京大学苏州校区开班。本次讲习班将围绕算法设计主题开展系列报告，包括组合最优化、哈希表、差分隐私、量子计算、关于图的数据流算法、图计算、分布式算法等板块，主要面向对理论计算机科学以及计算机科学中的数学感兴趣的国内外本科生，安排4天的高级课程。内容深入浅出，由国内外一线的优秀学者讲授，使学员初步了解理论计算机科学的一些研究前沿、初步掌握一些新理论与新方法，为有志于从事理论计算机科学研究的学者打下一定的基础，也让从事其他相关方向研究的学生与教师们领略计算理论的魅力。

联系邮箱：nju_tcs@163.com

联系人：
* 黄棱潇： huanglingxiao@nju.edu.cn
* 刘明谋： lmm@nju.edu.cn
* 班吟： 175227530@qq.com

注册报名流程：由于前几届报名人数过多，本届将会采用问卷初筛形式进行报名。请同学们先填写以下调查问卷:

https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

问卷报名截止日期： 2026.6.20

通过初筛的同学将于讲习班开始前两周收到包含报名链接的邮件。由于今年讲习班将在苏州校区举办，南京校区的南大同学如需统一安排住宿，也请填写问卷；无需安排住宿的南大同学，'''无需填写问卷或报名，可在讲习班期间直接前往会场听取报告。'''

费用：本科生包住宿，非本科生不包含住宿。餐费自理。

'''<big>对讲习班感兴趣的九月份入学南大新生，欢迎在志愿填报完成后报名参加（发送邮箱至： nju_tcs@163.com）</big>'''

== Tentative Schedule ==

Venue (地点)：南京大学苏州校区苏教楼D202
[[File:苏教楼D.png|thumb|苏教楼D在图中红星处]]
Accommodation：南京大学苏州校区国际学术交流中心 
Group photo: 7月24日上午茶歇环节中安排参会者合影留念

Speakers (in lexicographic order): 陈林（浙江大学）、丁尧相（浙江大学）、刘明谋（南京大学）、Pasin Manurangsi（Google Research）、任瀚林（IAS）、王启圣（上海交通大学）、王宇扬(中国科学技术大学）、俞华程（普林斯顿大学）、张天翼（南京大学）、郑朝栋（南京大学）

:{|border="2" width="97%" cellspacing="4" cellpadding="3" rules="all" style="margin:1em 1em 1em 0; border:solid 1px #AAAAAA; border-collapse:collapse; empty-cells:show;"

|-
|bgcolor="#4D72BE" align="center" style="width: 21%"|'''Time'''
|bgcolor="#4D72BE" align="center"|'''Title'''
|bgcolor="#4D72BE" align="center" style="width: 40%"|'''Speaker'''
|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月23日 July, 23rd'''
|-
|align="center" colspan="3"|19:00 – 20:00 专家讨论会
|-

|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月24日 July, 24th'''

|-
|align="center"|8:30 — 12:00
|align="center"|图染色算法
|align="center"|张天翼（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|图流算法
|align="center"|俞华程（普林斯顿大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月25日 July, 25th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Quantum Computation
|align="center"|王启圣（上海交通大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|现代哈希表设计
|align="center"|刘明谋（南京大学）
|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月26日 July, 26th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Differential Privacy
|align="center"|Pasin Manurangsi（Google Research）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|加性组合与算法设计
|align="center"|陈林（浙江大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月27日 July, 27th'''

|-
|align="center"|8:30 — 12:00
|align="center"|分布式算法与单机算法的同与异
|align="center"|郑朝栋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 15:00
|align="center"|Neuro-symbolic AI
|align="center"|戴望州（南京大学）

|-
|align="center" colspan="3"|15:00 — 15:10　休息

|-
|align="center"|15:10 — 16:10
|align="center"|Recent progress on near-maximum circuit lower bounds
|align="center"|任瀚林（Institute for Advanced Study）

|-
|align="center" colspan="3"|16:10 — 16:20　休息

|-
|align="center"|16:20 — 17:20
|align="center"|扩展图上生成树的局部计算算法
|align="center"|王宇扬（中国科学技术大学）

|-
|align="center" colspan="3"|17:20 — 17:30　交流
|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月28日 July, 28th'''
|-
|align="center" colspan="3"|09:00 – 10:00 专家讨论会
|-
|}

== Take-home Exams ==
成绩优秀的同学可推荐参加南京大学计算机学院预推免保研面试，并在录取后可凭借此次暑期讲习班申请两个研究生学分。

作业提交方式：发送电子版到邮箱nju_tcs@163.com

== Getting to The Campus==
*入校：人员及车辆凭[https://tcs.nju.edu.cn/wiki/images/d/d3/%E8%AE%A1%E7%AE%97%E7%90%86%E8%AE%BA%E4%B9%8B%E7%BE%8E2026%E4%BC%9A%E8%AE%AE%E9%80%9A%E7%9F%A5.pdf 电子版会议通知]进校。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== About Our Summer School ==
Our summer school is supported by the School of Computer Science and the School of Intelligent Software and Engineering at Nanjing University and will be held from July 24th to July 27th, 2026, at the Suzhou Campus of Nanjing University in Suzhou, Jiangsu Province, China. The theme of this year's summer school will be the design and analysis of algorithms, with topics ranging from combinatorial optimization, hash table design, differential privacy, quantum computing, streaming algorithms for graphs, graph algorithms, and distributed algorithms.
Target audience will include aspiring undergraduate and graduate students from China and overseas, and the program will feature 4 days of advanced courses. The courses will be presented by leading young scholars both from within China and overseas, covering both cutting-edge research and modern toolkits in theoretical computer science.
The summer school will help connect aspiring young students with young scholars to engage research in theoretical computer science, and embark on a journey to appreciate the charm of computational theory.

Accommodation (shared room) will be provided to undergraduates only.

Due to capacity, we prioritize undergraduates seeking to join NJU TCS group for PhD or for a research intern. To register, please fill out the following form: https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

If you are selected into our summer school, you will receive a confirmation email.

计算理论之美2026

2026-09-16T07:44:42Z

Liumingmou: Created page with "{{Infobox |name = Infobox |headerstyle = background:#4D72BE; |labelstyle = background:#DAE1F0; |header1 = 计算理论之美 |label2 = {{Nowrap|负责人}} |data2 = 黄棱潇 ([mailto:huanglingxiao@nju.edu.cn huanglingxiao@nju.edu.cn]) |label4 = 时间 |data4 = 2026.7.23 — 2026.7.28 |label5 = 地点 |data5 = {{Nowrap|南京大学苏州校区苏教楼D202}} |belowstyle = background:#DAE1F0; |below = }} 由南京大..."

{{Infobox
|name = Infobox
|headerstyle = background:#4D72BE;
|labelstyle = background:#DAE1F0;

|header1 = 计算理论之美
|label2 = {{Nowrap|负责人}}
|data2 = 黄棱潇 ([mailto:huanglingxiao@nju.edu.cn huanglingxiao@nju.edu.cn])
|label4 = 时间
|data4 = 2026.7.23 — 2026.7.28
|label5 = 地点
|data5 = {{Nowrap|南京大学苏州校区苏教楼D202}}
|belowstyle = background:#DAE1F0;
|below =
}}

由南京大学计算机学院和智能软件学院支持的第5届“计算理论之美”暑期讲习班将于2026年7月24日至7月27日在江苏省苏州市南京大学苏州校区开班。本次讲习班将围绕算法设计主题开展系列报告，包括组合最优化、哈希表、差分隐私、量子计算、关于图的数据流算法、图计算、分布式算法等板块，主要面向对理论计算机科学以及计算机科学中的数学感兴趣的国内外本科生，安排4天的高级课程。内容深入浅出，由国内外一线的优秀学者讲授，使学员初步了解理论计算机科学的一些研究前沿、初步掌握一些新理论与新方法，为有志于从事理论计算机科学研究的学者打下一定的基础，也让从事其他相关方向研究的学生与教师们领略计算理论的魅力。

联系邮箱：nju_tcs@163.com

联系人：
* 黄棱潇： huanglingxiao@nju.edu.cn
* 刘明谋： lmm@nju.edu.cn
* 班吟： 175227530@qq.com

注册报名流程：由于前几届报名人数过多，本届将会采用问卷初筛形式进行报名。请同学们先填写以下调查问卷:

https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

问卷报名截止日期： 2026.6.20

通过初筛的同学将于讲习班开始前两周收到包含报名链接的邮件。由于今年讲习班将在苏州校区举办，南京校区的南大同学如需统一安排住宿，也请填写问卷；无需安排住宿的南大同学，'''无需填写问卷或报名，可在讲习班期间直接前往会场听取报告。'''

费用：本科生包住宿，非本科生不包含住宿。餐费自理。

'''<big>对讲习班感兴趣的九月份入学南大新生，欢迎在志愿填报完成后报名参加（发送邮箱至： nju_tcs@163.com）</big>'''

== Tentative Schedule ==

Venue (地点)：南京大学苏州校区苏教楼D202
[[File:苏教楼D.png|thumb|苏教楼D在图中红星处]]
Accommodation：南京大学苏州校区国际学术交流中心 
Group photo: 7月24日上午茶歇环节中安排参会者合影留念

Speakers (in lexicographic order): 陈林（浙江大学）、丁尧相（浙江大学）、刘明谋（南京大学）、Pasin Manurangsi（Google Research）、任瀚林（IAS）、王启圣（上海交通大学）、王宇扬(中国科学技术大学）、俞华程（普林斯顿大学）、张天翼（南京大学）、郑朝栋（南京大学）

:{|border="2" width="97%" cellspacing="4" cellpadding="3" rules="all" style="margin:1em 1em 1em 0; border:solid 1px #AAAAAA; border-collapse:collapse; empty-cells:show;"

|-
|bgcolor="#4D72BE" align="center" style="width: 21%"|'''Time'''
|bgcolor="#4D72BE" align="center"|'''Title'''
|bgcolor="#4D72BE" align="center" style="width: 40%"|'''Speaker'''

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月24日 July, 24th'''

|-
|align="center"|8:30 — 12:00
|align="center"|图染色算法
|align="center"|张天翼（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|图流算法
|align="center"|俞华程（普林斯顿大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月25日 July, 25th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Quantum Computation
|align="center"|王启圣（上海交通大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|现代哈希表设计
|align="center"|刘明谋（南京大学）
|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月26日 July, 26th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Differential Privacy
|align="center"|Pasin Manurangsi（Google Research）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|加性组合与算法设计
|align="center"|陈林（浙江大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月27日 July, 27th'''

|-
|align="center"|8:30 — 12:00
|align="center"|分布式算法与单机算法的同与异
|align="center"|郑朝栋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 15:00
|align="center"|Neuro-symbolic AI
|align="center"|戴望州（南京大学）

|-
|align="center" colspan="3"|15:00 — 15:10　休息

|-
|align="center"|15:10 — 16:10
|align="center"|Recent progress on near-maximum circuit lower bounds
|align="center"|任瀚林（Institute for Advanced Study）

|-
|align="center" colspan="3"|16:10 — 16:20　休息

|-
|align="center"|16:20 — 17:20
|align="center"|扩展图上生成树的局部计算算法
|align="center"|王宇扬（中国科学技术大学）

|-
|align="center" colspan="3"|17:20 — 17:30　交流

|}

== Take-home Exams ==
成绩优秀的同学可推荐参加南京大学计算机学院预推免保研面试，并在录取后可凭借此次暑期讲习班申请两个研究生学分。

作业提交方式：发送电子版到邮箱nju_tcs@163.com

== Getting to The Campus==
*入校：人员及车辆凭[https://tcs.nju.edu.cn/wiki/images/d/d3/%E8%AE%A1%E7%AE%97%E7%90%86%E8%AE%BA%E4%B9%8B%E7%BE%8E2026%E4%BC%9A%E8%AE%AE%E9%80%9A%E7%9F%A5.pdf 电子版会议通知]进校。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== About Our Summer School ==
Our summer school is supported by the School of Computer Science and the School of Intelligent Software and Engineering at Nanjing University and will be held from July 24th to July 27th, 2026, at the Suzhou Campus of Nanjing University in Suzhou, Jiangsu Province, China. The theme of this year's summer school will be the design and analysis of algorithms, with topics ranging from combinatorial optimization, hash table design, differential privacy, quantum computing, streaming algorithms for graphs, graph algorithms, and distributed algorithms.
Target audience will include aspiring undergraduate and graduate students from China and overseas, and the program will feature 4 days of advanced courses. The courses will be presented by leading young scholars both from within China and overseas, covering both cutting-edge research and modern toolkits in theoretical computer science.
The summer school will help connect aspiring young students with young scholars to engage research in theoretical computer science, and embark on a journey to appreciate the charm of computational theory.

Accommodation (shared room) will be provided to undergraduates only.

Due to capacity, we prioritize undergraduates seeking to join NJU TCS group for PhD or for a research intern. To register, please fill out the following form: https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

If you are selected into our summer school, you will receive a confirmation email.

Theory@Suzhou 2026

2026-09-15T17:21:34Z

Liumingmou:

==General Information ==

*'''Sunday, Nov 22, 2026: 09:00 -- 18:00.'''
* '''Location''': 南京大学苏州校区
* '''Venue''': TBA


==Speakers (in alphabetic order)==
* [https://person.zju.edu.cn/maoyc 毛宇尘]（浙江大学）
* [http://staff.ustc.edu.cn/~wwwucuc/ 邵帅]（待定）（中国科学技术大学）
* [https://tomtao26.github.io/ 陶亦心]（上海财经大学）
* [https://weizhewei.com/ 魏哲巍]（中国人民大学）
* [https://penghuiyao.info/ 姚鹏晖]（南京大学）
* [http://www.zyhwtc.com/ 张宇昊]（上海交通大学）
* [https://math.fzu.edu.cn/info/1102/6698.htm 周宏]（福州大学）

== Join us==
'''不需注册'''。
本次活动涵盖覆盖市场与博弈、计数复杂性、子集和与加性组合、矩阵集中与去随机化、量子复杂性、局部图算法在内的多个主题，欢迎所有对理论计算机科学感兴趣的同学和老师前来参加。 

== Program ==
TBA

== Getting to The Campus==
*入校：
**关注微信公众号“南京大学信息门户”，点击门户首页左下角“i校园”-“访客通行”
**审核人单位：智能软件与工程学院。审核人姓名：石会
**如开车进校，请将车牌号填写到“随行车辆车牌”处。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Accommodation Suggestion ==
￥￥￥苏州科技城源宿酒店 
￥￥南大国际学术交流中心（校内酒店，性价比高）、苏州科技城万达美华酒店、全季苏州科技城酒店、苏州高新区科技城亚朵酒店 
￥格林豪泰苏州市科技城商务酒店、宜必思尚品苏州科技城酒店、如家精选-苏州乐园高新区科技城店

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== Contact ==
刘明谋： lmm@nju.edu.cn

Theory@Suzhou 2026

2026-09-15T17:21:24Z

Liumingmou: /* Announcement */

==General Information ==

*'''Sunday, Nov 22, 2026: 09:00 -- 18:00.'''
* '''Location''': 南京大学苏州校区
* '''Venue''': TBA


==Announcement==

TBA

==Speakers (in alphabetic order)==
* [https://person.zju.edu.cn/maoyc 毛宇尘]（浙江大学）
* [http://staff.ustc.edu.cn/~wwwucuc/ 邵帅]（待定）（中国科学技术大学）
* [https://tomtao26.github.io/ 陶亦心]（上海财经大学）
* [https://weizhewei.com/ 魏哲巍]（中国人民大学）
* [https://penghuiyao.info/ 姚鹏晖]（南京大学）
* [http://www.zyhwtc.com/ 张宇昊]（上海交通大学）
* [https://math.fzu.edu.cn/info/1102/6698.htm 周宏]（福州大学）

== Join us==
'''不需注册'''。
本次活动涵盖覆盖市场与博弈、计数复杂性、子集和与加性组合、矩阵集中与去随机化、量子复杂性、局部图算法在内的多个主题，欢迎所有对理论计算机科学感兴趣的同学和老师前来参加。 

== Program ==
TBA

== Getting to The Campus==
*入校：
**关注微信公众号“南京大学信息门户”，点击门户首页左下角“i校园”-“访客通行”
**审核人单位：智能软件与工程学院。审核人姓名：石会
**如开车进校，请将车牌号填写到“随行车辆车牌”处。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Accommodation Suggestion ==
￥￥￥苏州科技城源宿酒店 
￥￥南大国际学术交流中心（校内酒店，性价比高）、苏州科技城万达美华酒店、全季苏州科技城酒店、苏州高新区科技城亚朵酒店 
￥格林豪泰苏州市科技城商务酒店、宜必思尚品苏州科技城酒店、如家精选-苏州乐园高新区科技城店

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== Contact ==
刘明谋： lmm@nju.edu.cn

数据科学基础 (Fall 2026)/Problem Set 2

2026-09-15T17:20:20Z

Liumingmou: Created page with "*每道题目的解答都要有完整的解题过程，中英文不限。 *我们推荐大家使用LaTeX, markdown等对作业进行排版。 *没有条件的同学可以用纸笔完成作业之后拍照。 <h2 id="assumption"> Assumption throughout Problem Set 3</h2> Without further notice, we are working on probability space <math>(\Omega,\mathcal{F},\Pr)</math>. Without further notice, we assume that the expectation of random variables are well-defined.<..."

*每道题目的解答都要有完整的解题过程，中英文不限。

*我们推荐大家使用LaTeX, markdown等对作业进行排版。

*没有条件的同学可以用纸笔完成作业之后拍照。

<h2 id="assumption"> Assumption throughout Problem Set 3</h2>
Without further notice, we are working on probability space <math>(\Omega,\mathcal{F},\Pr)</math>.

Without further notice, we assume that the expectation of random variables are well-defined.

The term <math>\log</math> used in this context refers to the natural logarithm.
<h2 id="problem-1">Problem 1 (Warm-up problems)</h2>
* ['''Cumulative distribution function (CDF)'''] Let <math>F</math> be a distribution function and <math>r</math> a positive integer. Show that the following are distribution functions:
*# <math>F(x)^r</math>,
*# <math>1 − (1− F(x))^r</math>,
*# <math>F(x)+ (1− F(x))\cdot\log(1− F(x))</math>,
*# <math>(F(x)− 1)\cdot e + \exp(1− F(x))</math>.
* [Probability mass function (PMF)] Let <math>S_k</math> be the set of positive integers whose base-10 expansion contains exactly <math>k</math> elements (so that, for example, <math>1024 \in S_4</math>). A fair coin is tossed until the first head appears, and we write <math>T</math> for the number of tosses required. We pick a random element, <math>N</math> say, from <math>S_T</math> , each such element having equal probability. What is the mass function of <math>N</math>?
* ['''Transitive coins'''] Three coins each show heads with probability <math>3/5</math> and tails otherwise. The first counts 10 points for a head and 2 for a tail, the second counts 4 points for both head and tail, and the third counts 3 points for a head and 20 for a tail. You and your opponent each choose a coin; you cannot choose the same coin. Each of you tosses your coin and the person with the larger score wins £<math>10^{10}</math>. Would you prefer to be the first to pick a coin or the second?
* ['''Estimator'''] Let [math]\{X_r : r \ge 1\}[/math] be observations which are independent and identically distributed with unknown distribution function [math]F[/math]. Describe and justify a method for estimating [math]F(x)[/math].
* ['''Independence'''] Three players, A, B, and C, take turns to roll a die; they do this in the order ABCABCA....
*# Show that the probability that, of the three players, A is the first to throw a 6, B the second, and C the third, is 216/1001.
*# Show that the probability that the first 6 to appear is thrown by A, the second 6 to appear is thrown by B, and the third 6 to appear is thrown by C, is 46656/753571.
* ['''Joint distribution'''] Is the function <math>F(x,y)= 1− e^{−xy}, 0 \le x,y <\infty</math>, the joint distribution function of some pair of random variables?
* [Jensen's entropy] Let [math]X[/math] be a discrete random variable with range of values [math][N] = \{1,2,\ldots,N\}[/math] and probability mass function [math]p[/math]. Define [math]H(X) = -\sum_{n \ge 1} p(n) \log p(n)[/math] with convention [math]0\log 0 = 0[/math]. Prove that [math]H(X) \le \log N[/math] using Jensen's inequality.
* [Law of total expectation] Let <math>\{X_n\}_{n \ge 1}</math> be identically distributed random variable and <math>N</math> be a random variable taking values in the non-negative integers and independent of the <math>X_n</math> for all <math>n \ge 1</math>. Prove that <math>\mathbf{E}\left[\sum_{i=1}^N X_i\right] = \mathbf{E}[N] \mathbf{E}[X_1]</math>.
* ['''Composing random variables'''] Show that any discrete random variable may be written as a linear combination of indicator variables.

== Problem 2 (Discrete random variable) ==
* [Geometric distribution] Prove that geometric distribution is the only discrete memoryless distribution with range values <math>\mathbb{N}_+</math>.
* [Binomial distribution] Consider a binomial random variable <math>X</math> with parameters <math>n</math> and <math>p</math>. Let <math>k^*</math> be the largest integer that is less than or equal to <math>(n + 1)p</math>. Show that the PMF <math>p_x (k)</math> is monotonically nondecreasing with <math>k</math> in the range from <math>0</math> to <math>k^*</math> . and is monotonically decreasing with <math>k</math> for <math>k \ge k^*</math> .
* [Negative binomial distribution] Let <math>X</math> follows the negative binomial distribution with parameter <math>r \in \mathbb{N}_+</math> and <math>p \in (0,1)</math>. Calculate <math>\mathbf{Var}[X] = \mathbf{E}[X^2] - \left(\mathbf{E}[X]\right)^2</math>.
* [Hypergeometric distribution (i)] An urn contains [math]N[/math] balls, [math]b[/math] of which are blue and [math]r = N -b[/math] of which are red. A random sample of [math]n[/math] balls is drawn without replacement (无放回) from the urn. Let [math]B[/math] the number of blue balls in this sample. Show that if [math]N, b[/math], and [math]r[/math] approach [math]+\infty[/math] in such a way that [math]b/N \rightarrow p[/math] and [math]r/N \rightarrow 1 - p[/math], then [math]\Pr(B = k) \rightarrow {n\choose k}p^k(1-p)^{n-k}[/math] for [math]0\leq k \leq n[/math].
* [Hypergeometric distribution (ii)] Let [math]X[/math] and [math]Y[/math] be independent [math]\mathrm{Bin}(n,p)[/math] variables, and let [math]Z= X + Y[/math] . Show that the conditional distribution of [math]X[/math] given [math]Z= N[/math] is the hypergeometric distribution.
*['''Multinomial distribution'''] Prove by calculating that the marginal distribution of multinomial distribution is binomial distribution.
*['''Poisson distribution'''] In your pocket is a random number <math>N</math> of coins, where <math>N</math> has the Poisson distribution with parameter <math>\lambda</math>. You toss each coin once, with heads showing with probability <math>p</math> each time. Let <math>X</math> be the (random) number of heads outcomes and <math>Y</math> be the (also random) number of tails.
*# Find the joint mass function of <math>(X,Y)</math>.
*# Find PMF of the marginal distribution of <math>X</math> in <math>(X,Y)</math>. Are <math>X</math> and <math>Y</math> independent?

== Problem 3 (Expectation) ==
* ['''Expectation'''] Is it generally true that [math]\mathbb{E}[1/X] = 1/\mathbb{E}[X][/math]? Is it ever true that [math]\mathbb{E}[1/X] = 1/\mathbb{E}[X][/math]?
* ['''Error'''] Let <math>X</math> and <math>Y</math> be independent with mean <math>\mu</math>. Explain the error in the following equation: <math>\mathbb E[X|X+Y=z]=\mathbb E[X|X=z-Y]=\mathbb E[z-Y]=z-\mu</math>.
* ['''Optimal stopping time'''] You roll a conventional fair die repeatedly. If it shows 1, you must stop, but you may choose to stop at any prior time. Your score is the number shown by the die on the final roll. What stopping strategy yields the greatest expected score? What strategy would you use if your score were the square of the final roll?
* ['''Streak'''] Suppose we flip a fair coin <math>n</math> times independently to obtain a sequence of flips <math>X_1, X_2, \ldots , X_n</math>. A streak of flips is a consecutive subsequence of flips that are all the same. For example, if <math>X_3</math>, <math>X_4</math>, and <math>X_5</math> are all heads, there is a streak of length <math>3</math> starting at the third lip. (If <math>X_6</math> is also heads, then there is also a streak of length <math>4</math> starting at the third lip.) Find the expected number of streaks of length <math>k</math> for some integer <math>k \ge 1</math>.
*['''Tail sum for expectation (double counting)''']
*# If <math>X</math> takes non-negative integer values show that <math>\mathbb E[X]=\sum_{n=0}^\infty \Pr[X>n]</math>.
*# An urn contains <math>b</math> blue and <math>r</math> red balls. Balls are removed at random until the first blue ball is drawn. Show that the expected number drawn is <math>(b + r + 1)/(b + 1)</math>.
*# The balls are replaced and then removed at random until all the remaining balls are of the same colour. （现在我们把所有球都放回去，然后再次随机地把球无放回地取出来，直到剩下的小球都是同色的。） Find the expected number remaining in the urn.
*# Let <math>X</math> and <math>Y</math> be independent random variables taking values in the non-negative integers, with finite means. Let <math>U= \min\{X,Y \}</math> and <math>V= \max\{X,Y \}</math>. Show that <math>
\begin{align*}
\mathbb E[U]&=\sum_{r=1}^\infty \Pr[X\ge r]\Pr[Y\ge r]\\
\mathbb E[V]&=\sum_{r=1}^\infty \bigg(\Pr[X\ge r]+\Pr[Y\ge r]-\Pr[X\ge r]\Pr[Y\ge r]\bigg)\\
\mathbb E[UV]&=\sum_{r,s=1}^\infty \Pr[X\ge r]\Pr[Y\ge s].
\end{align*}
</math>
*# Let <math>X</math> take values in the non-negative integers. Show that <math>\mathbb E[X^2]=\mathbb E[X]+2\sum_{r=0}^\infty r\Pr[X>r]=\sum_{r=0}^\infty (2r+1)\Pr[X>r]</math>, and find a similar formula for <math>\mathbb E[X^3]</math>.

== Problem 4 (Random graph) ==
* ['''Turán's Theorem'''] Let <math>G=(V,E)</math> be a fixed undirected graph, and write <math>d_v</math> for the degree of the vertex <math>v</math>. Use probablistic method to prove that <math>\alpha(G) \ge \sum_{v \in V} \frac{1}{d_v + 1}</math>. (Hint: Consider the following random procedure for generating an independent set <math>I</math> from a graph with vertex set <math>V</math>: First, generate a random permutation of the vertices, denoted as <math>v_1,v_2,\ldots,v_n</math>. Then, construct the independent set <math>I</math> as follows: For each vertex <math>v_i \in V</math>, add <math>v_i</math> to <math>I</math> if and only if none of its predecessors in the permutation, i.e., <math>v_1,\ldots,v_{i-1}</math>, are neighbors of <math>v_i</math>.)
*['''Dominating set'''] A ''dominating set'' of vertices in an undirected graph <math>G = (V, E)</math> is a set <math>S \subseteq V</math> such that every vertex of <math>G</math> belongs to <math>S</math> or has a neighbor in <math>S</math>. Let <math>G = (V, E)</math> be an <math>n</math>-vertex graph with minimum degree <math>d > 1</math>. Prove that <math>G</math> has a dominating set with at most <math>\frac{n\left(1+\log(d+1)\right)}{d+1}</math> vertices. (Hint: Consider a random vertex subset <math>S \subseteq V</math> by including each vertex independently with probability <math>p \triangleq \log(d + 1)/(d + 1)</math>.)

Theory@Suzhou 2026

2026-09-15T14:13:47Z

Liumingmou:

==General Information ==

*'''Sunday, Nov 22, 2026: 09:00 -- 18:00.'''
* '''Location''': 南京大学苏州校区
* '''Venue''': TBA


==Announcement==

*关注微信公众号“南京大学信息门户”，点击门户首页左下角“i校园”-“访客通行”
*审核人单位：智能软件与工程学院。审核人姓名：石会
*如开车进校，请将车牌号填写到“随行车辆车牌”处。

==Speakers (in alphabetic order)==
* [https://person.zju.edu.cn/maoyc 毛宇尘]（浙江大学）
* [http://staff.ustc.edu.cn/~wwwucuc/ 邵帅]（待定）（中国科学技术大学）
* [https://tomtao26.github.io/ 陶亦心]（上海财经大学）
* [https://weizhewei.com/ 魏哲巍]（中国人民大学）
* [https://penghuiyao.info/ 姚鹏晖]（南京大学）
* [http://www.zyhwtc.com/ 张宇昊]（上海交通大学）
* [https://math.fzu.edu.cn/info/1102/6698.htm 周宏]（福州大学）

== Join us==
'''不需注册'''。
本次活动涵盖覆盖市场与博弈、计数复杂性、子集和与加性组合、矩阵集中与去随机化、量子复杂性、局部图算法在内的多个主题，欢迎所有对理论计算机科学感兴趣的同学和老师前来参加。 

== Program ==
TBA

== Getting to The Campus==
*入校：
**关注微信公众号“南京大学信息门户”，点击门户首页左下角“i校园”-“访客通行”
**审核人单位：智能软件与工程学院。审核人姓名：石会
**如开车进校，请将车牌号填写到“随行车辆车牌”处。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Accommodation Suggestion ==
￥￥￥苏州科技城源宿酒店 
￥￥南大国际学术交流中心（校内酒店，性价比高）、苏州科技城万达美华酒店、全季苏州科技城酒店、苏州高新区科技城亚朵酒店 
￥格林豪泰苏州市科技城商务酒店、宜必思尚品苏州科技城酒店、如家精选-苏州乐园高新区科技城店

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== Contact ==
刘明谋： lmm@nju.edu.cn

Main Page

2026-09-15T14:07:09Z

Liumingmou: /* Home Pages for Courses and Seminars */

This is a course/seminar wiki run by the [http://tcs.nju.edu.cn theory group] in the Department of Computer Science and Technology at Nanjing University.

== Home Pages for Courses and Seminars==
;Current semester

* [[高级算法 (Fall 2026)|高级算法 Advanced Algorithms (Fall 2026)]]

* [[计算方法 Numerical method (Fall 2026)|计算方法 Numerical method (Fall 2026)]]

* [[数据科学基础 (Fall 2026)|数据科学基础 (Fall 2026)]]

* [[Theory@Suzhou_2026 | Suzhou Theory day]] (Nov 22, 2026)

;Past courses

* Advanced Algorithms: [[高级算法 (Spring 2026)| Spring 2026 (Suzhou)]], [[高级算法 (Fall 2025)|Fall 2025]], [[高级算法 (Spring 2025)|Spring 2025 (Suzhou)]], [[高级算法 (Fall 2024)|Fall 2024]], [[高级算法 (Fall 2023)|Fall 2023]], [[高级算法 (Fall 2022)|Fall 2022]], [[高级算法 (Fall 2021)|Fall 2021]], [[高级算法 (Fall 2020)|Fall 2020]], [[高级算法 (Fall 2019)|Fall 2019]], [[高级算法 (Fall 2018)|Fall 2018]], [[高级算法 (Fall 2017)|Fall 2017]], [[随机算法 \ 高级算法 (Fall 2016)|Fall 2016]].

*Algorithm Design and Analysis: [https://tcs.nju.edu.cn/shili/courses/2024spring-algo/ Spring 2024]

* Combinatorics: [[组合数学 (Spring 2026)|Spring 2026]], [[组合数学 (Spring 2025)|Spring 2025]], [[组合数学 (Spring 2024)|Spring 2024]], [[组合数学 (Spring 2023)|Spring 2023]], [[组合数学 (Fall 2019)|Fall 2019]], [[组合数学 (Fall 2017)|Fall 2017]], [[组合数学 (Fall 2016)|Fall 2016]], [[组合数学 (Fall 2015)|Fall 2015]], [[组合数学 (Spring 2014)|Spring 2014]], [[组合数学 (Spring 2013)|Spring 2013]], [[组合数学 (Fall 2011)|Fall 2011]], [[Combinatorics (Fall 2010)|Fall 2010]].

* Computational Complexity: [[计算复杂性 (Spring 2026)| Spring 2026]], [[计算复杂性 (Spring 2025)|Spring 2025]], [[计算复杂性 (Spring 2024)|Spring 2024]], [[计算复杂性 (Spring 2023)|Spring 2023]], [[计算复杂性 (Fall 2019)|Fall 2019]], [[计算复杂性 (Fall 2018)|Fall 2018]].

* Foundations of Data Science: [[数据科学基础 (Fall 2025)|Fall 2025]], [[数据科学基础 (Fall 2024)|Fall 2024]]

* Numerical Method: [[计算方法 Numerical method (Spring 2026)|Spring 2026]], [[计算方法 Numerical method (Spring 2025)|Spring 2025]], [[计算方法 Numerical method (Spring 2024)|Spring 2024]], [[计算方法 Numerical method (Spring 2023)|Spring 2023]], [https://liuexp.github.io/numerical.html Spring 2022].

* Probability Theory: [[概率论与数理统计 (Spring 2026)| Spring 2026]], [[概率论与数理统计 (Spring 2025)|Spring 2025]], [[概率论与数理统计 (Spring 2024)|Spring 2024]], [[概率论与数理统计 (Spring 2023)|Spring 2023]].

* Quantum Computation: [[量子计算 (Spring 2022)|Spring 2022]], [[量子计算 (Spring 2021)|Spring 2021]], [[量子计算 (Fall 2019)|Fall 2019]].

* Randomized Algorithms: [[随机算法 (Fall 2015)|Fall 2015]], [[随机算法 (Spring 2014)|Spring 2014]], [[随机算法 (Spring 2013)|Spring 2013]], [[随机算法 (Fall 2011)|Fall 2011]], [[Randomized Algorithms (Spring 2010)|Spring 2010]].

;Past seminars, workshops and summer schools
*计算理论之美暑期学校: [[计算理论之美 (Summer 2026) | 2026]], [[计算理论之美 (Summer 2025)|2025]], [[计算理论之美 (Summer 2024)|2024]], [[计算理论之美 (Summer 2023)|2023]], [[计算理论之美 (Summer 2021)|2021]]
*[[Theory Seminar|理论计算机科学讨论班]]
*[[Study Group|理论计算机科学学习小组]]
*[[TCSPhD2020| 理论计算机科学优秀博士生论坛2020]]
*[[Quantum|量子算法与物理实现研讨会]]
*Theory Day: [[Theory@Suzhou 2025 | 2025 (Suzhou)]], [[Theory@Nanjing 2019|2019]], [[Theory@Nanjing 2018|2018]], [[Theory@Nanjing 2017|2017]]
*[[\Delta Seminar on Logic, Philosophy, and Computer Science|Δ Seminar on Logic, Philosophy, and Computer Science]]
*[[近似算法讨论班 (Fall 2011)|近似算法 Approximation Algorithms, Fall 2011.]]

; 其它链接
* [[General Circulation(Fall 2025)|大气环流 General Circulation of the Atmosphere, Fall 2025]]
* [[General Circulation(Fall 2024)|大气环流 General Circulation of the Atmosphere, Fall 2024]]

* [[概率论 (Summer 2014)| 概率与计算 (上海交大 Summer 2014)]]

Theory@Suzhou 2026

2026-09-15T14:05:50Z

Liumingmou: Created page with " ==General Information == 苏教楼D在图中红星处 *'''Sunday, Nov 22, 2026: 09:00 -- 18:00.''' * '''Location''': 南京大学苏州校区 * '''Venue''': TBA  ==Announcement== *关注微信公众号“南..."

==General Information ==
[[File:苏教楼D.png|thumb|苏教楼D在图中红星处]]
*'''Sunday, Nov 22, 2026: 09:00 -- 18:00.'''
* '''Location''': 南京大学苏州校区
* '''Venue''': TBA


==Announcement==

*关注微信公众号“南京大学信息门户”，点击门户首页左下角“i校园”-“访客通行”
*审核人单位：智能软件与工程学院。审核人姓名：石会
*如开车进校，请将车牌号填写到“随行车辆车牌”处。

==Speakers (in alphabetic order)==
* [https://person.zju.edu.cn/maoyc 毛宇尘]（浙江大学）
* [http://staff.ustc.edu.cn/~wwwucuc/ 邵帅]（待定）（中国科学技术大学）
* [https://tomtao26.github.io/ 陶亦心]（上海财经大学）
* [https://weizhewei.com/ 魏哲巍]（中国人民大学）
* [https://penghuiyao.info/ 姚鹏晖]（南京大学）
* [http://www.zyhwtc.com/ 张宇昊]（上海交通大学）
* [https://math.fzu.edu.cn/info/1102/6698.htm 周宏]（福州大学）

== Join us==
'''不需注册'''。
本次活动涵盖覆盖市场与博弈、计数复杂性、子集和与加性组合、矩阵集中与去随机化、量子复杂性、局部图算法在内的多个主题，欢迎所有对理论计算机科学感兴趣的同学和老师前来参加。 

== Program ==
TBA

== Getting to The Campus==
*入校：
**关注微信公众号“南京大学信息门户”，点击门户首页左下角“i校园”-“访客通行”
**审核人单位：智能软件与工程学院。审核人姓名：石会
**如开车进校，请将车牌号填写到“随行车辆车牌”处。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Accommodation Suggestion ==
￥￥￥苏州科技城源宿酒店 
￥￥南大国际学术交流中心（校内酒店，性价比高）、苏州科技城万达美华酒店、全季苏州科技城酒店、苏州高新区科技城亚朵酒店 
￥格林豪泰苏州市科技城商务酒店、宜必思尚品苏州科技城酒店、如家精选-苏州乐园高新区科技城店

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== Contact ==
刘明谋： lmm@nju.edu.cn

数据科学基础 (Fall 2026)

2026-09-12T11:51:58Z

Liumingmou: /* Assignments */

{{Infobox
|name = Infobox
|bodystyle =
|title = '''数据科学基础''' 
Foundations of Data Science
|titlestyle =

|image =
|imagestyle =
|caption =
|captionstyle =
|headerstyle = background:#ccf;
|labelstyle = background:#ddf;
|datastyle =

|header1 =Instructor
|label1 =
|data1 =
|header2 =
|label2 =
|data5 = '''刘明谋'''
|header6 =
|label6 = Email
|data6 = lmm@nju.edu.cn
|header7 =
|label7 = office
|data7 = 南雍-西229
|header8 = Class
|label8 =
|data8 =
|header9 =
|label9 = Class meeting
|data9 = 周五, 18:30-21:20 南雍楼-东108
|header10=
|label10 = Office hour
|data10 = 周四, 3pm-5pm 南雍-西229
|header11= Textbook
|label11 =
|data11 =
|header12=
|label12 =
|data12 = [[File:概率导论.jpeg|border|100px]]
|header13=
|label13 =
|data13 = '''概率导论'''（第2版·修订版） Dimitri P. Bertsekas and John N. Tsitsiklis 郑忠国童行伟译；人民邮电出版社 (2022)
|header14=
|label14 =
|data14 = [[File:Probability_and_Computing_2ed.jpg|border|100px]]
|header15=
|label15 =
|data15 = '''Probability and Computing''' (2E) Michael Mitzenmacher and Eli Upfal Cambridge University Press (2017)
|header16=
|label16 =
|data16 = [[File:Foundations_of_Data_Science.jpg|border|100px]]
|header17=
|label17 =
|data17 = '''Foundations of Data Science''' Avrim Blum, John Hopcroft, Ravi Kannan Cambridge University Press (2020)
|belowstyle = background:#ddf;
|below =
}}

This is the webpage for the ''Foundations of Data Science'' (数据科学基础) class of Fall 2025. Students who take this class should check this page periodically for content updates and new announcements.

= Announcement =
* 新学期第一堂课：2026年8月28日，苏教楼B207。
* 从9月11日开始在南雍楼-东108上课。

= Course info =
* '''任课教师''':
:* [https://liumingmou.github.io 刘明谋]：[mailto:lmm@nju.edu.cn 📧]，南雍-西229
* '''助教''':
** 王思齐：[mailto:siqi_wang@smail.nju.edu.cn 📧]
** 齐世毅：[mailto:1083951258@qq.com 📧]
* '''课程时间地点''':
** 周五，18:30-21:20，南雍楼-东108
* '''qq群''': 1106577612

= Syllabus =
课程内容分为三大部分：

* '''经典概率论'''：包括概率空间、随机变量及其数字特征、多维与连续随机变量
* '''概率与计算'''：包括测度集中现象，概率法，离散随机过程三部分
* '''数理统计'''：包括参数估计、假设检验、贝叶斯估计、方差分析、相关性及回归分析等统计推断内容。

对于第一和第二部分，要求清楚掌握基本概念，深刻理解关键的现象与规律以及背后的原理，并可以灵活运用所学方法求解相关问题。对于第三部分，要求熟悉数理统计相关的基本概念，以及典型的统计模型、统计推断方法。

经过本课程的训练，学生将能够掌握概率论和统计学的基本理论和方法，具备处理和分析实际数据的能力，为后续学习数据挖掘、机器学习、大数据技术等数据科学相关领域打下坚实基础。本课程采用课堂讲授、案例分析和课后练习相结合的教学方式，注重理论与实践相结合，培养学生运用所学知识解决实际问题的能力。通过本课程的学习，学生将能够具备扎实的数学基础，为未来从事数据科学研究和实践奠定坚实基础。

=== 教材与参考书 Course Materials ===
* '''[BT]''' 概率导论（第2版·修订版），[美]伯特瑟卡斯（Dimitri P.Bertsekas）[美]齐齐克利斯（John N.Tsitsiklis）著，郑忠国童行伟译，人民邮电出版社（2022）。
* '''[MU]''' ''Probability and Computing: Randomization and Probabilistic Techniques in Algorithms and Data Analysis'', by Michael Mitzenmacher, Eli Upfal; Cambridge University Press; 2nd edition (2017).
* '''[GS]''' ''Probability and Random Processes'', by Geoffrey Grimmett and David Stirzaker; Oxford University Press; 4th edition (2020).
* '''[BHK]''' ''Foundations of Data Science'', by Avrim Blum, John Hopcroft, and Ravindran Kannan; Cambridge University Press (2020).

=== 成绩 Grading Policy ===
* 课程成绩：本课程将会有若干次作业和期中期末考试。最终成绩将由平时作业成绩和期末考试成绩综合得出。
* 迟交：如果有特殊的理由，无法按时完成作业，请提前联系授课老师，给出正当理由。否则迟交的作业将不被接受。

=== 学术诚信 Academic Integrity ===
学术诚信是所有从事学术活动的学生和学者最基本的职业道德底线，本课程将不遗余力的维护学术诚信规范，违反这一底线的行为将不会被容忍。

作业完成的原则：'''署你名字的工作必须是你个人的贡献，任何不是由你完成的部分都必须明确标注'''，特别是由AI生成的部分，否则就涉嫌抄袭。在完成作业的过程中，允许讨论，前提是讨论的所有参与者均处于同等完成度。但关键想法的执行、以及作业文本的写作必须独立完成，并在作业中致谢（acknowledge）所有参与讨论的人。符合规则的讨论与致谢将不会影响得分。不允许其他任何形式的合作——尤其是与已经完成作业的同学“讨论”。

本课程将对剽窃行为采取零容忍的态度。在完成作业过程中，对他人工作（出版物、互联网资料、其他人的作业等）直接的文本抄袭和对关键思想、关键元素的抄袭，按照 [http://www.acm.org/publications/policies/plagiarism_policy ACM Policy on Plagiarism]的解释，都将视为剽窃。剽窃者成绩将被取消。如果发现互相抄袭行为， 抄袭和被抄袭双方的成绩都将被取消。因此请主动防止自己的作业被他人抄袭。

学术诚信影响学生个人的品行，也关乎整个教育系统的正常运转。为了一点分数而做出学术不端的行为，不仅使自己沦为一个欺骗者，也使他人的诚实努力失去意义。让我们一起努力维护一个诚信的环境。

= Assignments =
*[[数据科学基础 (Fall 2026)/Problem Set 1|Problem Set 1]] 请在 2026/09/25 上课之前(18:30 UTC+8)上传到 [https://box.nju.edu.cn/u/d/e8eb6d14003146738d87/ 南大云盘] (文件名为'学号_姓名.pdf').

= Lectures =
# [https://box.nju.edu.cn/f/325086e21b594e7882c7/ 课程简介]
#* [https://www.bilibili.com/video/BV1Vkz4YqEC9 Bertrand Paradox (贝特朗悖论)的视频]
# [https://box.nju.edu.cn/f/b7410b6c349a438bbfa6/ 概率空间]
#* 阅读：'''[BT] 第1章'''
# [https://box.nju.edu.cn/f/79173b5b2d7445589731/ 随机变量]
#* 阅读：'''[BT] 第2章'''
#* 阅读：'''[MU] Chapter 2'''
#* [[数据科学基础 (Fall 2024)/Volume of Hamming balls|Volume of Hamming balls]]
#* [[数据科学基础 (Fall 2024)/Average-case analysis of QuickSort|Average-case analysis of '''''QuickSort''''']]
#* [https://www.bilibili.com/video/BV1ta411A7fp/ 高尔顿板（Galton board）视频] 和 [https://en.wikipedia.org/wiki/Galton_board 维基百科页面]

= Concepts =
* [https://plato.stanford.edu/entries/probability-interpret/ Interpretations of probability]
* [https://en.wikipedia.org/wiki/History_of_probability History of probability]
* Example problems:
** [https://dornsifecms.usc.edu/assets/sites/520/docs/VonNeumann-ams12p36-38.pdf von Neumann's Bernoulli factory] and other [https://peteroupc.github.io/bernoulli.html Bernoulli factory algorithms]
** [https://en.wikipedia.org/wiki/Boy_or_Girl_paradox Boy or Girl paradox]
** [https://en.wikipedia.org/wiki/Monty_Hall_problem Monty Hall problem]
** [https://en.wikipedia.org/wiki/Bertrand_paradox_(probability) Bertrand paradox]
** [https://en.wikipedia.org/wiki/Hard_spheres Hard spheres model] and [https://en.wikipedia.org/wiki/Ising_model Ising model]
** [https://en.wikipedia.org/wiki/PageRank ''PageRank''] and stationary [https://en.wikipedia.org/wiki/Random_walk random walk]
** [https://en.wikipedia.org/wiki/Diffusion_process Diffusion process] and [https://en.wikipedia.org/wiki/Diffusion_model diffusion model]
*[https://en.wikipedia.org/wiki/Probability_space Probability space]
** [https://en.wikipedia.org/wiki/Sample_space Sample space]
** [https://en.wikipedia.org/wiki/Event_(probability_theory) Event] and [https://en.wikipedia.org/wiki/Σ-algebra <math>\sigma</math>-algebra]
** Kolmogorov's [https://en.wikipedia.org/wiki/Probability_axioms axioms of probability]
* [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Classical] and [https://en.wikipedia.org/wiki/Geometric_probability goemetric probability]
* [https://en.wikipedia.org/wiki/Boole%27s_inequality Union bound]
** [https://en.wikipedia.org/wiki/Inclusion%E2%80%93exclusion_principle Inclusion-Exclusion principle]
** [https://en.wikipedia.org/wiki/Boole%27s_inequality#Bonferroni_inequalities Bonferroni inequalities]
* [https://en.wikipedia.org/wiki/Conditional_probability Conditional probability]
** [https://en.wikipedia.org/wiki/Chain_rule_(probability) Chain rule]
** [https://en.wikipedia.org/wiki/Law_of_total_probability Law of total probability]
** [https://en.wikipedia.org/wiki/Bayes%27_theorem Bayes' law]
* [https://en.wikipedia.org/wiki/Independence_(probability_theory) Independence]
** [https://en.wikipedia.org/wiki/Pairwise_independence Pairwise independence]
* [https://en.wikipedia.org/wiki/Random_variable Random variable]
** [https://en.wikipedia.org/wiki/Cumulative_distribution_function Cumulative distribution function]
** [https://en.wikipedia.org/wiki/Probability_mass_function Probability mass function]
** [https://en.wikipedia.org/wiki/Probability_density_function Probability density function]
* [https://en.wikipedia.org/wiki/Multivariate_random_variable Random vector]
** [https://en.wikipedia.org/wiki/Joint_probability_distribution Joint probability distribution]
** [https://en.wikipedia.org/wiki/Conditional_probability_distribution Conditional probability distribution]
** [https://en.wikipedia.org/wiki/Marginal_distribution Marginal distribution]
* Some '''discrete''' probability distributions
** [https://en.wikipedia.org/wiki/Bernoulli_trial Bernoulli trial] and [https://en.wikipedia.org/wiki/Bernoulli_distribution Bernoulli distribution]
** [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Discrete uniform distribution]
** [https://en.wikipedia.org/wiki/Binomial_distribution Binomial distribution]
** [https://en.wikipedia.org/wiki/Geometric_distribution Geometric distribution]
** [https://en.wikipedia.org/wiki/Negative_binomial_distribution Negative binomial distribution]
** [https://en.wikipedia.org/wiki/Hypergeometric_distribution Hypergeometric distribution]
** [https://en.wikipedia.org/wiki/Poisson_distribution Poisson distribution]
** and [https://en.wikipedia.org/wiki/List_of_probability_distributions#Discrete_distributions others]
* Balls into bins model
** [https://en.wikipedia.org/wiki/Multinomial_distribution Multinomial distribution]
** [https://en.wikipedia.org/wiki/Birthday_problem Birthday problem]
** [https://en.wikipedia.org/wiki/Coupon_collector%27s_problem Coupon collector]
** [https://en.wikipedia.org/wiki/Balls_into_bins_problem Occupancy problem]
* Random graphs
** [https://en.wikipedia.org/wiki/Erd%C5%91s%E2%80%93R%C3%A9nyi_model Erdős–Rényi random graph model]
** [https://en.wikipedia.org/wiki/Galton%E2%80%93Watson_process Galton–Watson branching process]
* [https://en.wikipedia.org/wiki/Expected_value Expectation]
** [https://en.wikipedia.org/wiki/Law_of_the_unconscious_statistician Law of the unconscious statistician, ''LOTUS'']
** [https://dlsun.github.io/probability/linearity.html Linearity of expectation]
** [https://en.wikipedia.org/wiki/Conditional_expectation Conditional expectation]
** [https://en.wikipedia.org/wiki/Law_of_total_expectation Law of total expectation]

数据科学基础 (Fall 2026)

2026-09-10T12:43:22Z

Liumingmou: /* Course info */

{{Infobox
|name = Infobox
|bodystyle =
|title = '''数据科学基础''' 
Foundations of Data Science
|titlestyle =

|image =
|imagestyle =
|caption =
|captionstyle =
|headerstyle = background:#ccf;
|labelstyle = background:#ddf;
|datastyle =

|header1 =Instructor
|label1 =
|data1 =
|header2 =
|label2 =
|data5 = '''刘明谋'''
|header6 =
|label6 = Email
|data6 = lmm@nju.edu.cn
|header7 =
|label7 = office
|data7 = 南雍-西229
|header8 = Class
|label8 =
|data8 =
|header9 =
|label9 = Class meeting
|data9 = 周五, 18:30-21:20 南雍楼-东108
|header10=
|label10 = Office hour
|data10 = 周四, 3pm-5pm 南雍-西229
|header11= Textbook
|label11 =
|data11 =
|header12=
|label12 =
|data12 = [[File:概率导论.jpeg|border|100px]]
|header13=
|label13 =
|data13 = '''概率导论'''（第2版·修订版） Dimitri P. Bertsekas and John N. Tsitsiklis 郑忠国童行伟译；人民邮电出版社 (2022)
|header14=
|label14 =
|data14 = [[File:Probability_and_Computing_2ed.jpg|border|100px]]
|header15=
|label15 =
|data15 = '''Probability and Computing''' (2E) Michael Mitzenmacher and Eli Upfal Cambridge University Press (2017)
|header16=
|label16 =
|data16 = [[File:Foundations_of_Data_Science.jpg|border|100px]]
|header17=
|label17 =
|data17 = '''Foundations of Data Science''' Avrim Blum, John Hopcroft, Ravi Kannan Cambridge University Press (2020)
|belowstyle = background:#ddf;
|below =
}}

This is the webpage for the ''Foundations of Data Science'' (数据科学基础) class of Fall 2025. Students who take this class should check this page periodically for content updates and new announcements.

= Announcement =
* 新学期第一堂课：2026年8月28日，苏教楼B207。
* 从9月11日开始在南雍楼-东108上课。

= Course info =
* '''任课教师''':
:* [https://liumingmou.github.io 刘明谋]：[mailto:lmm@nju.edu.cn 📧]，南雍-西229
* '''助教''':
** 王思齐：[mailto:siqi_wang@smail.nju.edu.cn 📧]
** 齐世毅：[mailto:1083951258@qq.com 📧]
* '''课程时间地点''':
** 周五，18:30-21:20，南雍楼-东108
* '''qq群''': 1106577612

= Syllabus =
课程内容分为三大部分：

* '''经典概率论'''：包括概率空间、随机变量及其数字特征、多维与连续随机变量
* '''概率与计算'''：包括测度集中现象，概率法，离散随机过程三部分
* '''数理统计'''：包括参数估计、假设检验、贝叶斯估计、方差分析、相关性及回归分析等统计推断内容。

对于第一和第二部分，要求清楚掌握基本概念，深刻理解关键的现象与规律以及背后的原理，并可以灵活运用所学方法求解相关问题。对于第三部分，要求熟悉数理统计相关的基本概念，以及典型的统计模型、统计推断方法。

经过本课程的训练，学生将能够掌握概率论和统计学的基本理论和方法，具备处理和分析实际数据的能力，为后续学习数据挖掘、机器学习、大数据技术等数据科学相关领域打下坚实基础。本课程采用课堂讲授、案例分析和课后练习相结合的教学方式，注重理论与实践相结合，培养学生运用所学知识解决实际问题的能力。通过本课程的学习，学生将能够具备扎实的数学基础，为未来从事数据科学研究和实践奠定坚实基础。

=== 教材与参考书 Course Materials ===
* '''[BT]''' 概率导论（第2版·修订版），[美]伯特瑟卡斯（Dimitri P.Bertsekas）[美]齐齐克利斯（John N.Tsitsiklis）著，郑忠国童行伟译，人民邮电出版社（2022）。
* '''[MU]''' ''Probability and Computing: Randomization and Probabilistic Techniques in Algorithms and Data Analysis'', by Michael Mitzenmacher, Eli Upfal; Cambridge University Press; 2nd edition (2017).
* '''[GS]''' ''Probability and Random Processes'', by Geoffrey Grimmett and David Stirzaker; Oxford University Press; 4th edition (2020).
* '''[BHK]''' ''Foundations of Data Science'', by Avrim Blum, John Hopcroft, and Ravindran Kannan; Cambridge University Press (2020).

=== 成绩 Grading Policy ===
* 课程成绩：本课程将会有若干次作业和期中期末考试。最终成绩将由平时作业成绩和期末考试成绩综合得出。
* 迟交：如果有特殊的理由，无法按时完成作业，请提前联系授课老师，给出正当理由。否则迟交的作业将不被接受。

=== 学术诚信 Academic Integrity ===
学术诚信是所有从事学术活动的学生和学者最基本的职业道德底线，本课程将不遗余力的维护学术诚信规范，违反这一底线的行为将不会被容忍。

作业完成的原则：'''署你名字的工作必须是你个人的贡献，任何不是由你完成的部分都必须明确标注'''，特别是由AI生成的部分，否则就涉嫌抄袭。在完成作业的过程中，允许讨论，前提是讨论的所有参与者均处于同等完成度。但关键想法的执行、以及作业文本的写作必须独立完成，并在作业中致谢（acknowledge）所有参与讨论的人。符合规则的讨论与致谢将不会影响得分。不允许其他任何形式的合作——尤其是与已经完成作业的同学“讨论”。

本课程将对剽窃行为采取零容忍的态度。在完成作业过程中，对他人工作（出版物、互联网资料、其他人的作业等）直接的文本抄袭和对关键思想、关键元素的抄袭，按照 [http://www.acm.org/publications/policies/plagiarism_policy ACM Policy on Plagiarism]的解释，都将视为剽窃。剽窃者成绩将被取消。如果发现互相抄袭行为， 抄袭和被抄袭双方的成绩都将被取消。因此请主动防止自己的作业被他人抄袭。

学术诚信影响学生个人的品行，也关乎整个教育系统的正常运转。为了一点分数而做出学术不端的行为，不仅使自己沦为一个欺骗者，也使他人的诚实努力失去意义。让我们一起努力维护一个诚信的环境。

= Assignments =
*[[数据科学基础 (Fall 2026)/Problem Set 1|Problem Set 1]] 请在 2026/09/25 上课之前(18:30 UTC+8)提交。

= Lectures =
# [https://box.nju.edu.cn/f/325086e21b594e7882c7/ 课程简介]
#* [https://www.bilibili.com/video/BV1Vkz4YqEC9 Bertrand Paradox (贝特朗悖论)的视频]
# [https://box.nju.edu.cn/f/b7410b6c349a438bbfa6/ 概率空间]
#* 阅读：'''[BT] 第1章'''
# [https://box.nju.edu.cn/f/79173b5b2d7445589731/ 随机变量]
#* 阅读：'''[BT] 第2章'''
#* 阅读：'''[MU] Chapter 2'''
#* [[数据科学基础 (Fall 2024)/Volume of Hamming balls|Volume of Hamming balls]]
#* [[数据科学基础 (Fall 2024)/Average-case analysis of QuickSort|Average-case analysis of '''''QuickSort''''']]
#* [https://www.bilibili.com/video/BV1ta411A7fp/ 高尔顿板（Galton board）视频] 和 [https://en.wikipedia.org/wiki/Galton_board 维基百科页面]

= Concepts =
* [https://plato.stanford.edu/entries/probability-interpret/ Interpretations of probability]
* [https://en.wikipedia.org/wiki/History_of_probability History of probability]
* Example problems:
** [https://dornsifecms.usc.edu/assets/sites/520/docs/VonNeumann-ams12p36-38.pdf von Neumann's Bernoulli factory] and other [https://peteroupc.github.io/bernoulli.html Bernoulli factory algorithms]
** [https://en.wikipedia.org/wiki/Boy_or_Girl_paradox Boy or Girl paradox]
** [https://en.wikipedia.org/wiki/Monty_Hall_problem Monty Hall problem]
** [https://en.wikipedia.org/wiki/Bertrand_paradox_(probability) Bertrand paradox]
** [https://en.wikipedia.org/wiki/Hard_spheres Hard spheres model] and [https://en.wikipedia.org/wiki/Ising_model Ising model]
** [https://en.wikipedia.org/wiki/PageRank ''PageRank''] and stationary [https://en.wikipedia.org/wiki/Random_walk random walk]
** [https://en.wikipedia.org/wiki/Diffusion_process Diffusion process] and [https://en.wikipedia.org/wiki/Diffusion_model diffusion model]
*[https://en.wikipedia.org/wiki/Probability_space Probability space]
** [https://en.wikipedia.org/wiki/Sample_space Sample space]
** [https://en.wikipedia.org/wiki/Event_(probability_theory) Event] and [https://en.wikipedia.org/wiki/Σ-algebra <math>\sigma</math>-algebra]
** Kolmogorov's [https://en.wikipedia.org/wiki/Probability_axioms axioms of probability]
* [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Classical] and [https://en.wikipedia.org/wiki/Geometric_probability goemetric probability]
* [https://en.wikipedia.org/wiki/Boole%27s_inequality Union bound]
** [https://en.wikipedia.org/wiki/Inclusion%E2%80%93exclusion_principle Inclusion-Exclusion principle]
** [https://en.wikipedia.org/wiki/Boole%27s_inequality#Bonferroni_inequalities Bonferroni inequalities]
* [https://en.wikipedia.org/wiki/Conditional_probability Conditional probability]
** [https://en.wikipedia.org/wiki/Chain_rule_(probability) Chain rule]
** [https://en.wikipedia.org/wiki/Law_of_total_probability Law of total probability]
** [https://en.wikipedia.org/wiki/Bayes%27_theorem Bayes' law]
* [https://en.wikipedia.org/wiki/Independence_(probability_theory) Independence]
** [https://en.wikipedia.org/wiki/Pairwise_independence Pairwise independence]
* [https://en.wikipedia.org/wiki/Random_variable Random variable]
** [https://en.wikipedia.org/wiki/Cumulative_distribution_function Cumulative distribution function]
** [https://en.wikipedia.org/wiki/Probability_mass_function Probability mass function]
** [https://en.wikipedia.org/wiki/Probability_density_function Probability density function]
* [https://en.wikipedia.org/wiki/Multivariate_random_variable Random vector]
** [https://en.wikipedia.org/wiki/Joint_probability_distribution Joint probability distribution]
** [https://en.wikipedia.org/wiki/Conditional_probability_distribution Conditional probability distribution]
** [https://en.wikipedia.org/wiki/Marginal_distribution Marginal distribution]
* Some '''discrete''' probability distributions
** [https://en.wikipedia.org/wiki/Bernoulli_trial Bernoulli trial] and [https://en.wikipedia.org/wiki/Bernoulli_distribution Bernoulli distribution]
** [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Discrete uniform distribution]
** [https://en.wikipedia.org/wiki/Binomial_distribution Binomial distribution]
** [https://en.wikipedia.org/wiki/Geometric_distribution Geometric distribution]
** [https://en.wikipedia.org/wiki/Negative_binomial_distribution Negative binomial distribution]
** [https://en.wikipedia.org/wiki/Hypergeometric_distribution Hypergeometric distribution]
** [https://en.wikipedia.org/wiki/Poisson_distribution Poisson distribution]
** and [https://en.wikipedia.org/wiki/List_of_probability_distributions#Discrete_distributions others]
* Balls into bins model
** [https://en.wikipedia.org/wiki/Multinomial_distribution Multinomial distribution]
** [https://en.wikipedia.org/wiki/Birthday_problem Birthday problem]
** [https://en.wikipedia.org/wiki/Coupon_collector%27s_problem Coupon collector]
** [https://en.wikipedia.org/wiki/Balls_into_bins_problem Occupancy problem]
* Random graphs
** [https://en.wikipedia.org/wiki/Erd%C5%91s%E2%80%93R%C3%A9nyi_model Erdős–Rényi random graph model]
** [https://en.wikipedia.org/wiki/Galton%E2%80%93Watson_process Galton–Watson branching process]
* [https://en.wikipedia.org/wiki/Expected_value Expectation]
** [https://en.wikipedia.org/wiki/Law_of_the_unconscious_statistician Law of the unconscious statistician, ''LOTUS'']
** [https://dlsun.github.io/probability/linearity.html Linearity of expectation]
** [https://en.wikipedia.org/wiki/Conditional_expectation Conditional expectation]
** [https://en.wikipedia.org/wiki/Law_of_total_expectation Law of total expectation]

数据科学基础 (Fall 2026)

2026-09-10T12:43:07Z

Liumingmou:

{{Infobox
|name = Infobox
|bodystyle =
|title = '''数据科学基础''' 
Foundations of Data Science
|titlestyle =

|image =
|imagestyle =
|caption =
|captionstyle =
|headerstyle = background:#ccf;
|labelstyle = background:#ddf;
|datastyle =

|header1 =Instructor
|label1 =
|data1 =
|header2 =
|label2 =
|data5 = '''刘明谋'''
|header6 =
|label6 = Email
|data6 = lmm@nju.edu.cn
|header7 =
|label7 = office
|data7 = 南雍-西229
|header8 = Class
|label8 =
|data8 =
|header9 =
|label9 = Class meeting
|data9 = 周五, 18:30-21:20 南雍楼-东108
|header10=
|label10 = Office hour
|data10 = 周四, 3pm-5pm 南雍-西229
|header11= Textbook
|label11 =
|data11 =
|header12=
|label12 =
|data12 = [[File:概率导论.jpeg|border|100px]]
|header13=
|label13 =
|data13 = '''概率导论'''（第2版·修订版） Dimitri P. Bertsekas and John N. Tsitsiklis 郑忠国童行伟译；人民邮电出版社 (2022)
|header14=
|label14 =
|data14 = [[File:Probability_and_Computing_2ed.jpg|border|100px]]
|header15=
|label15 =
|data15 = '''Probability and Computing''' (2E) Michael Mitzenmacher and Eli Upfal Cambridge University Press (2017)
|header16=
|label16 =
|data16 = [[File:Foundations_of_Data_Science.jpg|border|100px]]
|header17=
|label17 =
|data17 = '''Foundations of Data Science''' Avrim Blum, John Hopcroft, Ravi Kannan Cambridge University Press (2020)
|belowstyle = background:#ddf;
|below =
}}

This is the webpage for the ''Foundations of Data Science'' (数据科学基础) class of Fall 2025. Students who take this class should check this page periodically for content updates and new announcements.

= Announcement =
* 新学期第一堂课：2026年8月28日，苏教楼B207。
* 从9月11日开始在南雍楼-东108上课。

= Course info =
* '''任课教师''':
:* [https://liumingmou.github.io 刘明谋]：[mailto:lmm@nju.edu.cn 📧]，南雍-西229
* '''助教''':
** 王思齐：[mailto:siqi_wang@smail.nju.edu.cn 📧]
** 齐世毅：[mailto:1083951258@qq.com 📧]
* '''课程时间地点''':
** 周五，18:30-21:20，南雍楼-东108
* '''qq群''': 1106577612

= Syllabus =
课程内容分为三大部分：

* '''经典概率论'''：包括概率空间、随机变量及其数字特征、多维与连续随机变量
* '''概率与计算'''：包括测度集中现象，概率法，离散随机过程三部分
* '''数理统计'''：包括参数估计、假设检验、贝叶斯估计、方差分析、相关性及回归分析等统计推断内容。

对于第一和第二部分，要求清楚掌握基本概念，深刻理解关键的现象与规律以及背后的原理，并可以灵活运用所学方法求解相关问题。对于第三部分，要求熟悉数理统计相关的基本概念，以及典型的统计模型、统计推断方法。

经过本课程的训练，学生将能够掌握概率论和统计学的基本理论和方法，具备处理和分析实际数据的能力，为后续学习数据挖掘、机器学习、大数据技术等数据科学相关领域打下坚实基础。本课程采用课堂讲授、案例分析和课后练习相结合的教学方式，注重理论与实践相结合，培养学生运用所学知识解决实际问题的能力。通过本课程的学习，学生将能够具备扎实的数学基础，为未来从事数据科学研究和实践奠定坚实基础。

=== 教材与参考书 Course Materials ===
* '''[BT]''' 概率导论（第2版·修订版），[美]伯特瑟卡斯（Dimitri P.Bertsekas）[美]齐齐克利斯（John N.Tsitsiklis）著，郑忠国童行伟译，人民邮电出版社（2022）。
* '''[MU]''' ''Probability and Computing: Randomization and Probabilistic Techniques in Algorithms and Data Analysis'', by Michael Mitzenmacher, Eli Upfal; Cambridge University Press; 2nd edition (2017).
* '''[GS]''' ''Probability and Random Processes'', by Geoffrey Grimmett and David Stirzaker; Oxford University Press; 4th edition (2020).
* '''[BHK]''' ''Foundations of Data Science'', by Avrim Blum, John Hopcroft, and Ravindran Kannan; Cambridge University Press (2020).

=== 成绩 Grading Policy ===
* 课程成绩：本课程将会有若干次作业和期中期末考试。最终成绩将由平时作业成绩和期末考试成绩综合得出。
* 迟交：如果有特殊的理由，无法按时完成作业，请提前联系授课老师，给出正当理由。否则迟交的作业将不被接受。

=== 学术诚信 Academic Integrity ===
学术诚信是所有从事学术活动的学生和学者最基本的职业道德底线，本课程将不遗余力的维护学术诚信规范，违反这一底线的行为将不会被容忍。

作业完成的原则：'''署你名字的工作必须是你个人的贡献，任何不是由你完成的部分都必须明确标注'''，特别是由AI生成的部分，否则就涉嫌抄袭。在完成作业的过程中，允许讨论，前提是讨论的所有参与者均处于同等完成度。但关键想法的执行、以及作业文本的写作必须独立完成，并在作业中致谢（acknowledge）所有参与讨论的人。符合规则的讨论与致谢将不会影响得分。不允许其他任何形式的合作——尤其是与已经完成作业的同学“讨论”。

本课程将对剽窃行为采取零容忍的态度。在完成作业过程中，对他人工作（出版物、互联网资料、其他人的作业等）直接的文本抄袭和对关键思想、关键元素的抄袭，按照 [http://www.acm.org/publications/policies/plagiarism_policy ACM Policy on Plagiarism]的解释，都将视为剽窃。剽窃者成绩将被取消。如果发现互相抄袭行为， 抄袭和被抄袭双方的成绩都将被取消。因此请主动防止自己的作业被他人抄袭。

学术诚信影响学生个人的品行，也关乎整个教育系统的正常运转。为了一点分数而做出学术不端的行为，不仅使自己沦为一个欺骗者，也使他人的诚实努力失去意义。让我们一起努力维护一个诚信的环境。

= Assignments =
*[[数据科学基础 (Fall 2026)/Problem Set 1|Problem Set 1]] 请在 2026/09/25 上课之前(18:30 UTC+8)提交。

= Lectures =
# [https://box.nju.edu.cn/f/325086e21b594e7882c7/ 课程简介]
#* [https://www.bilibili.com/video/BV1Vkz4YqEC9 Bertrand Paradox (贝特朗悖论)的视频]
# [https://box.nju.edu.cn/f/b7410b6c349a438bbfa6/ 概率空间]
#* 阅读：'''[BT] 第1章'''
# [https://box.nju.edu.cn/f/79173b5b2d7445589731/ 随机变量]
#* 阅读：'''[BT] 第2章'''
#* 阅读：'''[MU] Chapter 2'''
#* [[数据科学基础 (Fall 2024)/Volume of Hamming balls|Volume of Hamming balls]]
#* [[数据科学基础 (Fall 2024)/Average-case analysis of QuickSort|Average-case analysis of '''''QuickSort''''']]
#* [https://www.bilibili.com/video/BV1ta411A7fp/ 高尔顿板（Galton board）视频] 和 [https://en.wikipedia.org/wiki/Galton_board 维基百科页面]

= Concepts =
* [https://plato.stanford.edu/entries/probability-interpret/ Interpretations of probability]
* [https://en.wikipedia.org/wiki/History_of_probability History of probability]
* Example problems:
** [https://dornsifecms.usc.edu/assets/sites/520/docs/VonNeumann-ams12p36-38.pdf von Neumann's Bernoulli factory] and other [https://peteroupc.github.io/bernoulli.html Bernoulli factory algorithms]
** [https://en.wikipedia.org/wiki/Boy_or_Girl_paradox Boy or Girl paradox]
** [https://en.wikipedia.org/wiki/Monty_Hall_problem Monty Hall problem]
** [https://en.wikipedia.org/wiki/Bertrand_paradox_(probability) Bertrand paradox]
** [https://en.wikipedia.org/wiki/Hard_spheres Hard spheres model] and [https://en.wikipedia.org/wiki/Ising_model Ising model]
** [https://en.wikipedia.org/wiki/PageRank ''PageRank''] and stationary [https://en.wikipedia.org/wiki/Random_walk random walk]
** [https://en.wikipedia.org/wiki/Diffusion_process Diffusion process] and [https://en.wikipedia.org/wiki/Diffusion_model diffusion model]
*[https://en.wikipedia.org/wiki/Probability_space Probability space]
** [https://en.wikipedia.org/wiki/Sample_space Sample space]
** [https://en.wikipedia.org/wiki/Event_(probability_theory) Event] and [https://en.wikipedia.org/wiki/Σ-algebra <math>\sigma</math>-algebra]
** Kolmogorov's [https://en.wikipedia.org/wiki/Probability_axioms axioms of probability]
* [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Classical] and [https://en.wikipedia.org/wiki/Geometric_probability goemetric probability]
* [https://en.wikipedia.org/wiki/Boole%27s_inequality Union bound]
** [https://en.wikipedia.org/wiki/Inclusion%E2%80%93exclusion_principle Inclusion-Exclusion principle]
** [https://en.wikipedia.org/wiki/Boole%27s_inequality#Bonferroni_inequalities Bonferroni inequalities]
* [https://en.wikipedia.org/wiki/Conditional_probability Conditional probability]
** [https://en.wikipedia.org/wiki/Chain_rule_(probability) Chain rule]
** [https://en.wikipedia.org/wiki/Law_of_total_probability Law of total probability]
** [https://en.wikipedia.org/wiki/Bayes%27_theorem Bayes' law]
* [https://en.wikipedia.org/wiki/Independence_(probability_theory) Independence]
** [https://en.wikipedia.org/wiki/Pairwise_independence Pairwise independence]
* [https://en.wikipedia.org/wiki/Random_variable Random variable]
** [https://en.wikipedia.org/wiki/Cumulative_distribution_function Cumulative distribution function]
** [https://en.wikipedia.org/wiki/Probability_mass_function Probability mass function]
** [https://en.wikipedia.org/wiki/Probability_density_function Probability density function]
* [https://en.wikipedia.org/wiki/Multivariate_random_variable Random vector]
** [https://en.wikipedia.org/wiki/Joint_probability_distribution Joint probability distribution]
** [https://en.wikipedia.org/wiki/Conditional_probability_distribution Conditional probability distribution]
** [https://en.wikipedia.org/wiki/Marginal_distribution Marginal distribution]
* Some '''discrete''' probability distributions
** [https://en.wikipedia.org/wiki/Bernoulli_trial Bernoulli trial] and [https://en.wikipedia.org/wiki/Bernoulli_distribution Bernoulli distribution]
** [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Discrete uniform distribution]
** [https://en.wikipedia.org/wiki/Binomial_distribution Binomial distribution]
** [https://en.wikipedia.org/wiki/Geometric_distribution Geometric distribution]
** [https://en.wikipedia.org/wiki/Negative_binomial_distribution Negative binomial distribution]
** [https://en.wikipedia.org/wiki/Hypergeometric_distribution Hypergeometric distribution]
** [https://en.wikipedia.org/wiki/Poisson_distribution Poisson distribution]
** and [https://en.wikipedia.org/wiki/List_of_probability_distributions#Discrete_distributions others]
* Balls into bins model
** [https://en.wikipedia.org/wiki/Multinomial_distribution Multinomial distribution]
** [https://en.wikipedia.org/wiki/Birthday_problem Birthday problem]
** [https://en.wikipedia.org/wiki/Coupon_collector%27s_problem Coupon collector]
** [https://en.wikipedia.org/wiki/Balls_into_bins_problem Occupancy problem]
* Random graphs
** [https://en.wikipedia.org/wiki/Erd%C5%91s%E2%80%93R%C3%A9nyi_model Erdős–Rényi random graph model]
** [https://en.wikipedia.org/wiki/Galton%E2%80%93Watson_process Galton–Watson branching process]
* [https://en.wikipedia.org/wiki/Expected_value Expectation]
** [https://en.wikipedia.org/wiki/Law_of_the_unconscious_statistician Law of the unconscious statistician, ''LOTUS'']
** [https://dlsun.github.io/probability/linearity.html Linearity of expectation]
** [https://en.wikipedia.org/wiki/Conditional_expectation Conditional expectation]
** [https://en.wikipedia.org/wiki/Law_of_total_expectation Law of total expectation]

数据科学基础 (Fall 2026)

2026-09-10T12:42:23Z

Liumingmou: /* Announcement */

{{Infobox
|name = Infobox
|bodystyle =
|title = '''数据科学基础''' 
Foundations of Data Science
|titlestyle =

|image =
|imagestyle =
|caption =
|captionstyle =
|headerstyle = background:#ccf;
|labelstyle = background:#ddf;
|datastyle =

|header1 =Instructor
|label1 =
|data1 =
|header2 =
|label2 =
|data5 = '''刘明谋'''
|header6 =
|label6 = Email
|data6 = lmm@nju.edu.cn
|header7 =
|label7 = office
|data7 = 南雍-西229
|header8 = Class
|label8 =
|data8 =
|header9 =
|label9 = Class meeting
|data9 = 周五, 18:30-21:20 苏教楼B207
|header10=
|label10 = Office hour
|data10 = 周四, 3pm-5pm 南雍-西229
|header11= Textbook
|label11 =
|data11 =
|header12=
|label12 =
|data12 = [[File:概率导论.jpeg|border|100px]]
|header13=
|label13 =
|data13 = '''概率导论'''（第2版·修订版） Dimitri P. Bertsekas and John N. Tsitsiklis 郑忠国童行伟译；人民邮电出版社 (2022)
|header14=
|label14 =
|data14 = [[File:Probability_and_Computing_2ed.jpg|border|100px]]
|header15=
|label15 =
|data15 = '''Probability and Computing''' (2E) Michael Mitzenmacher and Eli Upfal Cambridge University Press (2017)
|header16=
|label16 =
|data16 = [[File:Foundations_of_Data_Science.jpg|border|100px]]
|header17=
|label17 =
|data17 = '''Foundations of Data Science''' Avrim Blum, John Hopcroft, Ravi Kannan Cambridge University Press (2020)
|belowstyle = background:#ddf;
|below =
}}

This is the webpage for the ''Foundations of Data Science'' (数据科学基础) class of Fall 2025. Students who take this class should check this page periodically for content updates and new announcements.

= Announcement =
* 新学期第一堂课：2026年8月28日，苏教楼B207。
* 从9月11日开始在南雍楼-东108上课。

= Course info =
* '''任课教师''':
:* [https://liumingmou.github.io 刘明谋]：[mailto:lmm@nju.edu.cn 📧]，南雍-西229
* '''助教''':
** 王思齐：[mailto:siqi_wang@smail.nju.edu.cn 📧]
** 齐世毅：[mailto:1083951258@qq.com 📧]
* '''课程时间地点''':
** 周五，18:30-21:20，苏教B207
* '''qq群''': 1106577612

= Syllabus =
课程内容分为三大部分：

* '''经典概率论'''：包括概率空间、随机变量及其数字特征、多维与连续随机变量
* '''概率与计算'''：包括测度集中现象，概率法，离散随机过程三部分
* '''数理统计'''：包括参数估计、假设检验、贝叶斯估计、方差分析、相关性及回归分析等统计推断内容。

对于第一和第二部分，要求清楚掌握基本概念，深刻理解关键的现象与规律以及背后的原理，并可以灵活运用所学方法求解相关问题。对于第三部分，要求熟悉数理统计相关的基本概念，以及典型的统计模型、统计推断方法。

经过本课程的训练，学生将能够掌握概率论和统计学的基本理论和方法，具备处理和分析实际数据的能力，为后续学习数据挖掘、机器学习、大数据技术等数据科学相关领域打下坚实基础。本课程采用课堂讲授、案例分析和课后练习相结合的教学方式，注重理论与实践相结合，培养学生运用所学知识解决实际问题的能力。通过本课程的学习，学生将能够具备扎实的数学基础，为未来从事数据科学研究和实践奠定坚实基础。

=== 教材与参考书 Course Materials ===
* '''[BT]''' 概率导论（第2版·修订版），[美]伯特瑟卡斯（Dimitri P.Bertsekas）[美]齐齐克利斯（John N.Tsitsiklis）著，郑忠国童行伟译，人民邮电出版社（2022）。
* '''[MU]''' ''Probability and Computing: Randomization and Probabilistic Techniques in Algorithms and Data Analysis'', by Michael Mitzenmacher, Eli Upfal; Cambridge University Press; 2nd edition (2017).
* '''[GS]''' ''Probability and Random Processes'', by Geoffrey Grimmett and David Stirzaker; Oxford University Press; 4th edition (2020).
* '''[BHK]''' ''Foundations of Data Science'', by Avrim Blum, John Hopcroft, and Ravindran Kannan; Cambridge University Press (2020).

=== 成绩 Grading Policy ===
* 课程成绩：本课程将会有若干次作业和期中期末考试。最终成绩将由平时作业成绩和期末考试成绩综合得出。
* 迟交：如果有特殊的理由，无法按时完成作业，请提前联系授课老师，给出正当理由。否则迟交的作业将不被接受。

=== 学术诚信 Academic Integrity ===
学术诚信是所有从事学术活动的学生和学者最基本的职业道德底线，本课程将不遗余力的维护学术诚信规范，违反这一底线的行为将不会被容忍。

作业完成的原则：'''署你名字的工作必须是你个人的贡献，任何不是由你完成的部分都必须明确标注'''，特别是由AI生成的部分，否则就涉嫌抄袭。在完成作业的过程中，允许讨论，前提是讨论的所有参与者均处于同等完成度。但关键想法的执行、以及作业文本的写作必须独立完成，并在作业中致谢（acknowledge）所有参与讨论的人。符合规则的讨论与致谢将不会影响得分。不允许其他任何形式的合作——尤其是与已经完成作业的同学“讨论”。

本课程将对剽窃行为采取零容忍的态度。在完成作业过程中，对他人工作（出版物、互联网资料、其他人的作业等）直接的文本抄袭和对关键思想、关键元素的抄袭，按照 [http://www.acm.org/publications/policies/plagiarism_policy ACM Policy on Plagiarism]的解释，都将视为剽窃。剽窃者成绩将被取消。如果发现互相抄袭行为， 抄袭和被抄袭双方的成绩都将被取消。因此请主动防止自己的作业被他人抄袭。

学术诚信影响学生个人的品行，也关乎整个教育系统的正常运转。为了一点分数而做出学术不端的行为，不仅使自己沦为一个欺骗者，也使他人的诚实努力失去意义。让我们一起努力维护一个诚信的环境。

= Assignments =
*[[数据科学基础 (Fall 2026)/Problem Set 1|Problem Set 1]] 请在 2026/09/25 上课之前(18:30 UTC+8)提交。

= Lectures =
# [https://box.nju.edu.cn/f/325086e21b594e7882c7/ 课程简介]
#* [https://www.bilibili.com/video/BV1Vkz4YqEC9 Bertrand Paradox (贝特朗悖论)的视频]
# [https://box.nju.edu.cn/f/b7410b6c349a438bbfa6/ 概率空间]
#* 阅读：'''[BT] 第1章'''
# [https://box.nju.edu.cn/f/79173b5b2d7445589731/ 随机变量]
#* 阅读：'''[BT] 第2章'''
#* 阅读：'''[MU] Chapter 2'''
#* [[数据科学基础 (Fall 2024)/Volume of Hamming balls|Volume of Hamming balls]]
#* [[数据科学基础 (Fall 2024)/Average-case analysis of QuickSort|Average-case analysis of '''''QuickSort''''']]
#* [https://www.bilibili.com/video/BV1ta411A7fp/ 高尔顿板（Galton board）视频] 和 [https://en.wikipedia.org/wiki/Galton_board 维基百科页面]

= Concepts =
* [https://plato.stanford.edu/entries/probability-interpret/ Interpretations of probability]
* [https://en.wikipedia.org/wiki/History_of_probability History of probability]
* Example problems:
** [https://dornsifecms.usc.edu/assets/sites/520/docs/VonNeumann-ams12p36-38.pdf von Neumann's Bernoulli factory] and other [https://peteroupc.github.io/bernoulli.html Bernoulli factory algorithms]
** [https://en.wikipedia.org/wiki/Boy_or_Girl_paradox Boy or Girl paradox]
** [https://en.wikipedia.org/wiki/Monty_Hall_problem Monty Hall problem]
** [https://en.wikipedia.org/wiki/Bertrand_paradox_(probability) Bertrand paradox]
** [https://en.wikipedia.org/wiki/Hard_spheres Hard spheres model] and [https://en.wikipedia.org/wiki/Ising_model Ising model]
** [https://en.wikipedia.org/wiki/PageRank ''PageRank''] and stationary [https://en.wikipedia.org/wiki/Random_walk random walk]
** [https://en.wikipedia.org/wiki/Diffusion_process Diffusion process] and [https://en.wikipedia.org/wiki/Diffusion_model diffusion model]
*[https://en.wikipedia.org/wiki/Probability_space Probability space]
** [https://en.wikipedia.org/wiki/Sample_space Sample space]
** [https://en.wikipedia.org/wiki/Event_(probability_theory) Event] and [https://en.wikipedia.org/wiki/Σ-algebra <math>\sigma</math>-algebra]
** Kolmogorov's [https://en.wikipedia.org/wiki/Probability_axioms axioms of probability]
* [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Classical] and [https://en.wikipedia.org/wiki/Geometric_probability goemetric probability]
* [https://en.wikipedia.org/wiki/Boole%27s_inequality Union bound]
** [https://en.wikipedia.org/wiki/Inclusion%E2%80%93exclusion_principle Inclusion-Exclusion principle]
** [https://en.wikipedia.org/wiki/Boole%27s_inequality#Bonferroni_inequalities Bonferroni inequalities]
* [https://en.wikipedia.org/wiki/Conditional_probability Conditional probability]
** [https://en.wikipedia.org/wiki/Chain_rule_(probability) Chain rule]
** [https://en.wikipedia.org/wiki/Law_of_total_probability Law of total probability]
** [https://en.wikipedia.org/wiki/Bayes%27_theorem Bayes' law]
* [https://en.wikipedia.org/wiki/Independence_(probability_theory) Independence]
** [https://en.wikipedia.org/wiki/Pairwise_independence Pairwise independence]
* [https://en.wikipedia.org/wiki/Random_variable Random variable]
** [https://en.wikipedia.org/wiki/Cumulative_distribution_function Cumulative distribution function]
** [https://en.wikipedia.org/wiki/Probability_mass_function Probability mass function]
** [https://en.wikipedia.org/wiki/Probability_density_function Probability density function]
* [https://en.wikipedia.org/wiki/Multivariate_random_variable Random vector]
** [https://en.wikipedia.org/wiki/Joint_probability_distribution Joint probability distribution]
** [https://en.wikipedia.org/wiki/Conditional_probability_distribution Conditional probability distribution]
** [https://en.wikipedia.org/wiki/Marginal_distribution Marginal distribution]
* Some '''discrete''' probability distributions
** [https://en.wikipedia.org/wiki/Bernoulli_trial Bernoulli trial] and [https://en.wikipedia.org/wiki/Bernoulli_distribution Bernoulli distribution]
** [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Discrete uniform distribution]
** [https://en.wikipedia.org/wiki/Binomial_distribution Binomial distribution]
** [https://en.wikipedia.org/wiki/Geometric_distribution Geometric distribution]
** [https://en.wikipedia.org/wiki/Negative_binomial_distribution Negative binomial distribution]
** [https://en.wikipedia.org/wiki/Hypergeometric_distribution Hypergeometric distribution]
** [https://en.wikipedia.org/wiki/Poisson_distribution Poisson distribution]
** and [https://en.wikipedia.org/wiki/List_of_probability_distributions#Discrete_distributions others]
* Balls into bins model
** [https://en.wikipedia.org/wiki/Multinomial_distribution Multinomial distribution]
** [https://en.wikipedia.org/wiki/Birthday_problem Birthday problem]
** [https://en.wikipedia.org/wiki/Coupon_collector%27s_problem Coupon collector]
** [https://en.wikipedia.org/wiki/Balls_into_bins_problem Occupancy problem]
* Random graphs
** [https://en.wikipedia.org/wiki/Erd%C5%91s%E2%80%93R%C3%A9nyi_model Erdős–Rényi random graph model]
** [https://en.wikipedia.org/wiki/Galton%E2%80%93Watson_process Galton–Watson branching process]
* [https://en.wikipedia.org/wiki/Expected_value Expectation]
** [https://en.wikipedia.org/wiki/Law_of_the_unconscious_statistician Law of the unconscious statistician, ''LOTUS'']
** [https://dlsun.github.io/probability/linearity.html Linearity of expectation]
** [https://en.wikipedia.org/wiki/Conditional_expectation Conditional expectation]
** [https://en.wikipedia.org/wiki/Law_of_total_expectation Law of total expectation]

数据科学基础 (Fall 2026)

2026-09-07T14:40:17Z

Liumingmou: /* Lectures */

{{Infobox
|name = Infobox
|bodystyle =
|title = '''数据科学基础''' 
Foundations of Data Science
|titlestyle =

|image =
|imagestyle =
|caption =
|captionstyle =
|headerstyle = background:#ccf;
|labelstyle = background:#ddf;
|datastyle =

|header1 =Instructor
|label1 =
|data1 =
|header2 =
|label2 =
|data5 = '''刘明谋'''
|header6 =
|label6 = Email
|data6 = lmm@nju.edu.cn
|header7 =
|label7 = office
|data7 = 南雍-西229
|header8 = Class
|label8 =
|data8 =
|header9 =
|label9 = Class meeting
|data9 = 周五, 18:30-21:20 苏教楼B207
|header10=
|label10 = Office hour
|data10 = 周四, 3pm-5pm 南雍-西229
|header11= Textbook
|label11 =
|data11 =
|header12=
|label12 =
|data12 = [[File:概率导论.jpeg|border|100px]]
|header13=
|label13 =
|data13 = '''概率导论'''（第2版·修订版） Dimitri P. Bertsekas and John N. Tsitsiklis 郑忠国童行伟译；人民邮电出版社 (2022)
|header14=
|label14 =
|data14 = [[File:Probability_and_Computing_2ed.jpg|border|100px]]
|header15=
|label15 =
|data15 = '''Probability and Computing''' (2E) Michael Mitzenmacher and Eli Upfal Cambridge University Press (2017)
|header16=
|label16 =
|data16 = [[File:Foundations_of_Data_Science.jpg|border|100px]]
|header17=
|label17 =
|data17 = '''Foundations of Data Science''' Avrim Blum, John Hopcroft, Ravi Kannan Cambridge University Press (2020)
|belowstyle = background:#ddf;
|below =
}}

This is the webpage for the ''Foundations of Data Science'' (数据科学基础) class of Fall 2025. Students who take this class should check this page periodically for content updates and new announcements.

= Announcement =
* 新学期第一堂课：2026年8月28日，苏教楼B207。

= Course info =
* '''任课教师''':
:* [https://liumingmou.github.io 刘明谋]：[mailto:lmm@nju.edu.cn 📧]，南雍-西229
* '''助教''':
** 王思齐：[mailto:siqi_wang@smail.nju.edu.cn 📧]
** 齐世毅：[mailto:1083951258@qq.com 📧]
* '''课程时间地点''':
** 周五，18:30-21:20，苏教B207
* '''qq群''': 1106577612

= Syllabus =
课程内容分为三大部分：

* '''经典概率论'''：包括概率空间、随机变量及其数字特征、多维与连续随机变量
* '''概率与计算'''：包括测度集中现象，概率法，离散随机过程三部分
* '''数理统计'''：包括参数估计、假设检验、贝叶斯估计、方差分析、相关性及回归分析等统计推断内容。

对于第一和第二部分，要求清楚掌握基本概念，深刻理解关键的现象与规律以及背后的原理，并可以灵活运用所学方法求解相关问题。对于第三部分，要求熟悉数理统计相关的基本概念，以及典型的统计模型、统计推断方法。

经过本课程的训练，学生将能够掌握概率论和统计学的基本理论和方法，具备处理和分析实际数据的能力，为后续学习数据挖掘、机器学习、大数据技术等数据科学相关领域打下坚实基础。本课程采用课堂讲授、案例分析和课后练习相结合的教学方式，注重理论与实践相结合，培养学生运用所学知识解决实际问题的能力。通过本课程的学习，学生将能够具备扎实的数学基础，为未来从事数据科学研究和实践奠定坚实基础。

=== 教材与参考书 Course Materials ===
* '''[BT]''' 概率导论（第2版·修订版），[美]伯特瑟卡斯（Dimitri P.Bertsekas）[美]齐齐克利斯（John N.Tsitsiklis）著，郑忠国童行伟译，人民邮电出版社（2022）。
* '''[MU]''' ''Probability and Computing: Randomization and Probabilistic Techniques in Algorithms and Data Analysis'', by Michael Mitzenmacher, Eli Upfal; Cambridge University Press; 2nd edition (2017).
* '''[GS]''' ''Probability and Random Processes'', by Geoffrey Grimmett and David Stirzaker; Oxford University Press; 4th edition (2020).
* '''[BHK]''' ''Foundations of Data Science'', by Avrim Blum, John Hopcroft, and Ravindran Kannan; Cambridge University Press (2020).

=== 成绩 Grading Policy ===
* 课程成绩：本课程将会有若干次作业和期中期末考试。最终成绩将由平时作业成绩和期末考试成绩综合得出。
* 迟交：如果有特殊的理由，无法按时完成作业，请提前联系授课老师，给出正当理由。否则迟交的作业将不被接受。

=== 学术诚信 Academic Integrity ===
学术诚信是所有从事学术活动的学生和学者最基本的职业道德底线，本课程将不遗余力的维护学术诚信规范，违反这一底线的行为将不会被容忍。

作业完成的原则：'''署你名字的工作必须是你个人的贡献，任何不是由你完成的部分都必须明确标注'''，特别是由AI生成的部分，否则就涉嫌抄袭。在完成作业的过程中，允许讨论，前提是讨论的所有参与者均处于同等完成度。但关键想法的执行、以及作业文本的写作必须独立完成，并在作业中致谢（acknowledge）所有参与讨论的人。符合规则的讨论与致谢将不会影响得分。不允许其他任何形式的合作——尤其是与已经完成作业的同学“讨论”。

本课程将对剽窃行为采取零容忍的态度。在完成作业过程中，对他人工作（出版物、互联网资料、其他人的作业等）直接的文本抄袭和对关键思想、关键元素的抄袭，按照 [http://www.acm.org/publications/policies/plagiarism_policy ACM Policy on Plagiarism]的解释，都将视为剽窃。剽窃者成绩将被取消。如果发现互相抄袭行为， 抄袭和被抄袭双方的成绩都将被取消。因此请主动防止自己的作业被他人抄袭。

学术诚信影响学生个人的品行，也关乎整个教育系统的正常运转。为了一点分数而做出学术不端的行为，不仅使自己沦为一个欺骗者，也使他人的诚实努力失去意义。让我们一起努力维护一个诚信的环境。

= Assignments =
*[[数据科学基础 (Fall 2026)/Problem Set 1|Problem Set 1]] 请在 2026/09/25 上课之前(18:30 UTC+8)提交。

= Lectures =
# [https://box.nju.edu.cn/f/325086e21b594e7882c7/ 课程简介]
#* [https://www.bilibili.com/video/BV1Vkz4YqEC9 Bertrand Paradox (贝特朗悖论)的视频]
# [https://box.nju.edu.cn/f/b7410b6c349a438bbfa6/ 概率空间]
#* 阅读：'''[BT] 第1章'''
# [https://box.nju.edu.cn/f/79173b5b2d7445589731/ 随机变量]
#* 阅读：'''[BT] 第2章'''
#* 阅读：'''[MU] Chapter 2'''
#* [[数据科学基础 (Fall 2024)/Volume of Hamming balls|Volume of Hamming balls]]
#* [[数据科学基础 (Fall 2024)/Average-case analysis of QuickSort|Average-case analysis of '''''QuickSort''''']]
#* [https://www.bilibili.com/video/BV1ta411A7fp/ 高尔顿板（Galton board）视频] 和 [https://en.wikipedia.org/wiki/Galton_board 维基百科页面]

= Concepts =
* [https://plato.stanford.edu/entries/probability-interpret/ Interpretations of probability]
* [https://en.wikipedia.org/wiki/History_of_probability History of probability]
* Example problems:
** [https://dornsifecms.usc.edu/assets/sites/520/docs/VonNeumann-ams12p36-38.pdf von Neumann's Bernoulli factory] and other [https://peteroupc.github.io/bernoulli.html Bernoulli factory algorithms]
** [https://en.wikipedia.org/wiki/Boy_or_Girl_paradox Boy or Girl paradox]
** [https://en.wikipedia.org/wiki/Monty_Hall_problem Monty Hall problem]
** [https://en.wikipedia.org/wiki/Bertrand_paradox_(probability) Bertrand paradox]
** [https://en.wikipedia.org/wiki/Hard_spheres Hard spheres model] and [https://en.wikipedia.org/wiki/Ising_model Ising model]
** [https://en.wikipedia.org/wiki/PageRank ''PageRank''] and stationary [https://en.wikipedia.org/wiki/Random_walk random walk]
** [https://en.wikipedia.org/wiki/Diffusion_process Diffusion process] and [https://en.wikipedia.org/wiki/Diffusion_model diffusion model]
*[https://en.wikipedia.org/wiki/Probability_space Probability space]
** [https://en.wikipedia.org/wiki/Sample_space Sample space]
** [https://en.wikipedia.org/wiki/Event_(probability_theory) Event] and [https://en.wikipedia.org/wiki/Σ-algebra <math>\sigma</math>-algebra]
** Kolmogorov's [https://en.wikipedia.org/wiki/Probability_axioms axioms of probability]
* [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Classical] and [https://en.wikipedia.org/wiki/Geometric_probability goemetric probability]
* [https://en.wikipedia.org/wiki/Boole%27s_inequality Union bound]
** [https://en.wikipedia.org/wiki/Inclusion%E2%80%93exclusion_principle Inclusion-Exclusion principle]
** [https://en.wikipedia.org/wiki/Boole%27s_inequality#Bonferroni_inequalities Bonferroni inequalities]
* [https://en.wikipedia.org/wiki/Conditional_probability Conditional probability]
** [https://en.wikipedia.org/wiki/Chain_rule_(probability) Chain rule]
** [https://en.wikipedia.org/wiki/Law_of_total_probability Law of total probability]
** [https://en.wikipedia.org/wiki/Bayes%27_theorem Bayes' law]
* [https://en.wikipedia.org/wiki/Independence_(probability_theory) Independence]
** [https://en.wikipedia.org/wiki/Pairwise_independence Pairwise independence]
* [https://en.wikipedia.org/wiki/Random_variable Random variable]
** [https://en.wikipedia.org/wiki/Cumulative_distribution_function Cumulative distribution function]
** [https://en.wikipedia.org/wiki/Probability_mass_function Probability mass function]
** [https://en.wikipedia.org/wiki/Probability_density_function Probability density function]
* [https://en.wikipedia.org/wiki/Multivariate_random_variable Random vector]
** [https://en.wikipedia.org/wiki/Joint_probability_distribution Joint probability distribution]
** [https://en.wikipedia.org/wiki/Conditional_probability_distribution Conditional probability distribution]
** [https://en.wikipedia.org/wiki/Marginal_distribution Marginal distribution]
* Some '''discrete''' probability distributions
** [https://en.wikipedia.org/wiki/Bernoulli_trial Bernoulli trial] and [https://en.wikipedia.org/wiki/Bernoulli_distribution Bernoulli distribution]
** [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Discrete uniform distribution]
** [https://en.wikipedia.org/wiki/Binomial_distribution Binomial distribution]
** [https://en.wikipedia.org/wiki/Geometric_distribution Geometric distribution]
** [https://en.wikipedia.org/wiki/Negative_binomial_distribution Negative binomial distribution]
** [https://en.wikipedia.org/wiki/Hypergeometric_distribution Hypergeometric distribution]
** [https://en.wikipedia.org/wiki/Poisson_distribution Poisson distribution]
** and [https://en.wikipedia.org/wiki/List_of_probability_distributions#Discrete_distributions others]
* Balls into bins model
** [https://en.wikipedia.org/wiki/Multinomial_distribution Multinomial distribution]
** [https://en.wikipedia.org/wiki/Birthday_problem Birthday problem]
** [https://en.wikipedia.org/wiki/Coupon_collector%27s_problem Coupon collector]
** [https://en.wikipedia.org/wiki/Balls_into_bins_problem Occupancy problem]
* Random graphs
** [https://en.wikipedia.org/wiki/Erd%C5%91s%E2%80%93R%C3%A9nyi_model Erdős–Rényi random graph model]
** [https://en.wikipedia.org/wiki/Galton%E2%80%93Watson_process Galton–Watson branching process]
* [https://en.wikipedia.org/wiki/Expected_value Expectation]
** [https://en.wikipedia.org/wiki/Law_of_the_unconscious_statistician Law of the unconscious statistician, ''LOTUS'']
** [https://dlsun.github.io/probability/linearity.html Linearity of expectation]
** [https://en.wikipedia.org/wiki/Conditional_expectation Conditional expectation]
** [https://en.wikipedia.org/wiki/Law_of_total_expectation Law of total expectation]

数据科学基础 (Fall 2026)/Problem Set 1

2026-09-05T04:06:50Z

Liumingmou: Created page with "*每道题目的解答都要有完整的解题过程，中英文不限。 *我们推荐大家使用LaTeX, markdown等对作业进行排版。 *没有条件的同学可以用纸笔完成作业之后拍照。 <h2 id="assumption"> Assumption throughout Problem Set 1</h2> Without further notice, we are working on probability space <math>(\Omega,\mathcal{F},\Pr)</math>. <h2 id="problems">Problem 1 (Probability space)</h2> * [<math>\sigma</math>-algebra</str..."

*每道题目的解答都要有完整的解题过程，中英文不限。

*我们推荐大家使用LaTeX, markdown等对作业进行排版。

*没有条件的同学可以用纸笔完成作业之后拍照。

<h2 id="assumption"> Assumption throughout Problem Set 1</h2>
Without further notice, we are working on probability space <math>(\Omega,\mathcal{F},\Pr)</math>.

<h2 id="problems">Problem 1 (Probability space)</h2>
* [<math>\sigma</math>-algebra] Let <math>A</math> and <math>B</math> belong to some <math>\sigma</math>-algebra <math>\mathcal F</math>. Show that <math>\mathcal F</math> contains the sets <math>A\cap B</math>, <math>A\setminus B</math>, and <math>A\oplus B</math>. Let <math>\mathcal{F}</math> and <math>\mathcal{G}</math> be <math>\sigma</math>-algebras of subsets of <math>\Omega</math>. Show that <math>\mathcal{F} \cup \mathcal{G}</math> is not necessarily a <math>\sigma</math>-algebra
* ['''Probability law'''] Let <math>\mathcal F</math> be a <math>\sigma</math>-algebra of subsets of <math>\Omega</math>, and suppose <math>\Pr : \mathcal F → [0,1]</math> satisfies: (i) <math>\Pr(\Omega)=1</math>, and (ii) <math>\Pr</math> is additive, in that <math>\Pr(A \cup B)= \Pr(A)+ \Pr(B)</math> whenever <math>A \cap B= \emptyset</math>. Show that <math>\Pr(\emptyset)= 0</math>.
* [Nonexistence of probability space] Prove that it is impossible to define a uniform probability law on natural numbers <math>\mathbb{N}</math>. More precisely, prove that there does not exist a probability space <math>(\mathbb{N},2^{\mathbb{N}},\Pr)</math> such that <math>\Pr(\{i\}) = \Pr(\{j\})</math> for all <math>i, j \in \mathbb{N}</math>. Please explain why the same argument fails to prove that there is no uniform probability law on the real interval <math>[0,1]</math>, that is, there is no such probability space <math>([0,1],\mathcal{F},\Pr)</math> that for any interval <math>(l,r] \subseteq [0,1]</math>, it holds that <math>(l,r] \in \mathcal{F}</math> and <math>\Pr( (l,r] ) = r-l</math>. (Actually, such probability measure does exist and is called the Lebesgue measure on <math>[0,1]</math>).
* [Euler's totient function] For any positive integer <math>n</math>, let <math>\varphi(n)</math> be the number of positive integers <math>x\le n</math> such that <math>\mathrm{gcd}(x,n)=1</math>. Prove that <math>\varphi(n)=n\prod_{i=1}^k(1-1/p_i)</math> using the principle of inclusion and exclusion, where <math>p_i</math>’s are primes and <math>n=\prod_{i=1}^k p_i^{c_i}</math> is the prime factorization of <math>n</math> for some positive integers <math>\{c_i\}_{i\le k}</math>.
* ['''Ménages'''] Men and women alternate when seated at a circular table. If <math>n</math> heterosexual couples are seated randomly according to this rule, calculate the probability that nobody sits next to his or her partner. (hint: enumerate forbidden adjacent seats instead of forbidden couples.)
* ['''The problem of points'''] Telis and Wendy play a round of golf (18 holes) for a $10 stake, and their probabilities of winning on any one hole are <math>p</math> and <math>1 - p</math>, respectively, independent of their results in other holes. At the end of 10 holes, with the score 4:6 in favor of Wendy, Telis receives an urgent call and has to report back to work. They decide to split the stake in proportion to their probabilities of winning had they completed the round, as follows. If <math>p_T</math> and <math>p_W</math> are the conditional probabilities that Telis and Wendy, respectively, are ahead in the score after 18 holes given the 4:6 score after 10 holes, then Telis should get a fraction <math>p_T / (p_T + p_W)</math> of the stake, and Wendy should get the remaining <math>p_W /(p_T + p_W</math> ). How much money should Telis get? Explain the reasoning.
* ['''Certainly occur'''] You are given that at least one of the events <math>A_r</math> , <math>1 \le r \le n</math>, is certain to occur, but certainly no more than two occur. If <math>\Pr(A_r )= p</math>, and <math>\Pr(A_r \cap A_s )= q, r \ne s</math>, show that <math>p \ge 1/n</math> and <math>q \le 2/n</math>.

<h2 id="problem-1">Problem 2 (Conditional probability)</h2>
* ['''The prosecutor’s fallacy'''] Let <math>G</math> be the event that an accused is guilty, and <math>T</math> the event that some testimony is true. Some lawyers have argued on the assumption that <math>\Pr(G | T )= \Pr(T | G)</math>. Show that this holds if and only if <math>\Pr(G)= \Pr(T )</math>.
* ['''Sure thing principle'''] If you prefer <math>x</math> to <math>y</math> given <math>C</math>, and also prefer <math>x</math> to <math>y</math> given <math>C^c</math>, then you surely prefer <math>x</math> to <math>y</math>. Agreed? Explain the reasoning.
* ['''The prisoner's dilemma'''] The release of two out of three prisoners has been announced. but their identity is kept secret. One of the prisoners considers asking a friendly guard to tell him who is the prisoner other than himself that will be released, but hesitates based on the following rationale: at the prisoner's present state of knowledge, the probability of being released is <math>2/3</math>, but after he knows the answer, the probability of being released will become <math>1/2</math>, since there will be two prisoners (including himself) whose fate is unknown and exactly one of the two will be released. What is wrong with this line of reasoning?
* ['''The Monty Hall problem'''] In a game show; you have to choose one of three doors. One conceals a new car, two conceal old goats. You choose, but your chosen door is not opened immediately. Instead the presenter opens another door, which reveals a goat. He offers you the opportunity to change your choice to the third door (unopened and so far unchosen). Let <math>p</math> be the (conditional) probability that the third door conceals the car. The presenter’s protocol is:
*## he is determined to show you a goat; with a choice of two, he picks one at random. Show <math>p=2/3</math>.
*## he is determined to show you a goat; with a choice of two goats (Bill and Nan, say) he shows you Bill with probability <math>b</math>. Show that, given you see Bill, the probability is <math>1/(1 + b)</math>.
*## he opens a door chosen at random irrespective of what lies behind. Show <math>p=1/2</math>.
*# Show that, for <math>\alpha\in [ 1/2, 2/3 ]</math>, there exists a protocol such that <math>p= \alpha</math>. Are you well advised to change your choice to the third door?
*# In a variant of this question, the presenter is permitted to open the first door chosen, and to reward you with whatever lies behind. If he chooses to open another door, then this door invariably conceals a goat. Let <math>p</math> be the probability that the unopened door conceals the car, conditional on the presenter having chosen to open a second door. Devise protocols to yield the values <math>p= 0, p= 1</math>, and deduce that, for any <math>
\alpha\in [0,1]</math>, there exists a protocol with <math>p= \alpha</math>.

<h2 id="problem-2">Problem 3 (1D random walk)</h2>
* ['''Gambler's ruin'''] A gambler makes a sequence of independent bets. In each bet, he wins $1 with probability <math>p</math>, and loses $1 with probability <math>1 - p</math>. Initially, the gambler has $<math>k</math>, and plays until he either accumulates $<math>n</math> or has no money left. What is the probability that the gambler will end up with $<math>n</math>?

<h2 id="problem-3">Problem 4 (Independence)</h2>
* ['''Certainty and independency''']
*# If <math>A</math> is independent of itself, show that <math>\Pr(A)</math> is <math>0</math> or <math>1</math>.
*# If <math>\Pr(A)</math> is <math>0</math> or <math>1</math>, show that <math>A</math> is independent of all events <math>B</math>.
* ['''Out of service'''] A cellular phone system services a population of <math>n_1</math> "voice users" (those who occasionally need a voice connection) and <math>n_2</math> "data users" (those who occasionally need a data connection). We estimate that at a given time, each user will need to be connected to the system with probability <math>p_1</math> (for voice users) or <math>p_2</math> (for data users), independent of other users. The data rate for a voice user is <math>r_1</math> bits/sec and for a data user is <math>r_2</math> bits/sec. The cellular system has a total capacity of <math>c</math> bits/sec. What is the probability that more users want to use the system than the system can accommodate?
* [Pairwise independences] Prove that the following statements are equivalent:
*# <math>\mathbf{Pr}(A|B)=\mathbf{Pr}(A)</math>
*# <math>\mathbf{Pr}(A\cap B)=\mathbf{Pr}(A)\cdot P(B)</math>
*# <math>\mathbf{Pr}(A|B^C)=\mathbf{Pr}(A)</math>
* [Limited independence] Let <math>X</math> and <math>Y</math> be the scores on two fair dice taking values in the set <math>\{1,2,...,6\}</math>. Let <math>A_1 =\{X + Y= 9\}</math>, <math>A_2 = \{X \in \{1,2,3\}\}</math>, and <math>A_3 = \{X \in \{3,4,5\}\}</math>. Show that <math>\Pr(A_1 \cap A_2 \cap A_3)= \Pr(A_1)\Pr(A_2)\Pr(A_3)</math>. Are these three events mutually independent?
* ['''Galton’s paradox'''] You flip three fair coins. At least two are alike, and it is an evens chance that the third is a head or a tail. Therefore <math>\Pr(</math>all alike<math>)=1/2</math> . Do you agree? Explain the reasoning.
* [Conditional independence] Show that the conditional independence of <math>A</math> and <math>B</math> given <math>C</math> neither implies, nor is implied by, the independence of <math>A</math> and <math>B</math>. For which events <math>C</math> is it the case that, for all <math>A</math> and <math>B</math>, the events <math>A</math> and <math>B</math> are independent if and only if they are conditionally independent given <math>C</math>?

<h2 id="problem-4">Problem 5 (Probabilistic method)</h2>
* ['''Independent Sets'''] Let <math>G(V,E)</math> be a graph with <math>n</math> vertices and <math>m</math> edges. Prove that <math>G</math> has an independent set with at least <math>n^2/(4m)</math> vertices.

数据科学基础 (Fall 2026)

2026-09-05T04:06:47Z

Liumingmou: /* Assignments */

{{Infobox
|name = Infobox
|bodystyle =
|title = '''数据科学基础''' 
Foundations of Data Science
|titlestyle =

|image =
|imagestyle =
|caption =
|captionstyle =
|headerstyle = background:#ccf;
|labelstyle = background:#ddf;
|datastyle =

|header1 =Instructor
|label1 =
|data1 =
|header2 =
|label2 =
|data5 = '''刘明谋'''
|header6 =
|label6 = Email
|data6 = lmm@nju.edu.cn
|header7 =
|label7 = office
|data7 = 南雍-西229
|header8 = Class
|label8 =
|data8 =
|header9 =
|label9 = Class meeting
|data9 = 周五, 18:30-21:20 苏教楼B207
|header10=
|label10 = Office hour
|data10 = 周四, 3pm-5pm 南雍-西229
|header11= Textbook
|label11 =
|data11 =
|header12=
|label12 =
|data12 = [[File:概率导论.jpeg|border|100px]]
|header13=
|label13 =
|data13 = '''概率导论'''（第2版·修订版） Dimitri P. Bertsekas and John N. Tsitsiklis 郑忠国童行伟译；人民邮电出版社 (2022)
|header14=
|label14 =
|data14 = [[File:Probability_and_Computing_2ed.jpg|border|100px]]
|header15=
|label15 =
|data15 = '''Probability and Computing''' (2E) Michael Mitzenmacher and Eli Upfal Cambridge University Press (2017)
|header16=
|label16 =
|data16 = [[File:Foundations_of_Data_Science.jpg|border|100px]]
|header17=
|label17 =
|data17 = '''Foundations of Data Science''' Avrim Blum, John Hopcroft, Ravi Kannan Cambridge University Press (2020)
|belowstyle = background:#ddf;
|below =
}}

This is the webpage for the ''Foundations of Data Science'' (数据科学基础) class of Fall 2025. Students who take this class should check this page periodically for content updates and new announcements.

= Announcement =
* 新学期第一堂课：2026年8月28日，苏教楼B207。

= Course info =
* '''任课教师''':
:* [https://liumingmou.github.io 刘明谋]：[mailto:lmm@nju.edu.cn 📧]，南雍-西229
* '''助教''':
** 王思齐：[mailto:siqi_wang@smail.nju.edu.cn 📧]
** 齐世毅：[mailto:1083951258@qq.com 📧]
* '''课程时间地点''':
** 周五，18:30-21:20，苏教B207
* '''qq群''': 1106577612

= Syllabus =
课程内容分为三大部分：

* '''经典概率论'''：包括概率空间、随机变量及其数字特征、多维与连续随机变量
* '''概率与计算'''：包括测度集中现象，概率法，离散随机过程三部分
* '''数理统计'''：包括参数估计、假设检验、贝叶斯估计、方差分析、相关性及回归分析等统计推断内容。

对于第一和第二部分，要求清楚掌握基本概念，深刻理解关键的现象与规律以及背后的原理，并可以灵活运用所学方法求解相关问题。对于第三部分，要求熟悉数理统计相关的基本概念，以及典型的统计模型、统计推断方法。

经过本课程的训练，学生将能够掌握概率论和统计学的基本理论和方法，具备处理和分析实际数据的能力，为后续学习数据挖掘、机器学习、大数据技术等数据科学相关领域打下坚实基础。本课程采用课堂讲授、案例分析和课后练习相结合的教学方式，注重理论与实践相结合，培养学生运用所学知识解决实际问题的能力。通过本课程的学习，学生将能够具备扎实的数学基础，为未来从事数据科学研究和实践奠定坚实基础。

=== 教材与参考书 Course Materials ===
* '''[BT]''' 概率导论（第2版·修订版），[美]伯特瑟卡斯（Dimitri P.Bertsekas）[美]齐齐克利斯（John N.Tsitsiklis）著，郑忠国童行伟译，人民邮电出版社（2022）。
* '''[MU]''' ''Probability and Computing: Randomization and Probabilistic Techniques in Algorithms and Data Analysis'', by Michael Mitzenmacher, Eli Upfal; Cambridge University Press; 2nd edition (2017).
* '''[GS]''' ''Probability and Random Processes'', by Geoffrey Grimmett and David Stirzaker; Oxford University Press; 4th edition (2020).
* '''[BHK]''' ''Foundations of Data Science'', by Avrim Blum, John Hopcroft, and Ravindran Kannan; Cambridge University Press (2020).

=== 成绩 Grading Policy ===
* 课程成绩：本课程将会有若干次作业和期中期末考试。最终成绩将由平时作业成绩和期末考试成绩综合得出。
* 迟交：如果有特殊的理由，无法按时完成作业，请提前联系授课老师，给出正当理由。否则迟交的作业将不被接受。

=== 学术诚信 Academic Integrity ===
学术诚信是所有从事学术活动的学生和学者最基本的职业道德底线，本课程将不遗余力的维护学术诚信规范，违反这一底线的行为将不会被容忍。

作业完成的原则：'''署你名字的工作必须是你个人的贡献，任何不是由你完成的部分都必须明确标注'''，特别是由AI生成的部分，否则就涉嫌抄袭。在完成作业的过程中，允许讨论，前提是讨论的所有参与者均处于同等完成度。但关键想法的执行、以及作业文本的写作必须独立完成，并在作业中致谢（acknowledge）所有参与讨论的人。符合规则的讨论与致谢将不会影响得分。不允许其他任何形式的合作——尤其是与已经完成作业的同学“讨论”。

本课程将对剽窃行为采取零容忍的态度。在完成作业过程中，对他人工作（出版物、互联网资料、其他人的作业等）直接的文本抄袭和对关键思想、关键元素的抄袭，按照 [http://www.acm.org/publications/policies/plagiarism_policy ACM Policy on Plagiarism]的解释，都将视为剽窃。剽窃者成绩将被取消。如果发现互相抄袭行为， 抄袭和被抄袭双方的成绩都将被取消。因此请主动防止自己的作业被他人抄袭。

学术诚信影响学生个人的品行，也关乎整个教育系统的正常运转。为了一点分数而做出学术不端的行为，不仅使自己沦为一个欺骗者，也使他人的诚实努力失去意义。让我们一起努力维护一个诚信的环境。

= Assignments =
*[[数据科学基础 (Fall 2026)/Problem Set 1|Problem Set 1]] 请在 2026/09/25 上课之前(18:30 UTC+8)提交。

= Lectures =
# [https://box.nju.edu.cn/f/325086e21b594e7882c7/ 课程简介]
#* [https://www.bilibili.com/video/BV1Vkz4YqEC9 Bertrand Paradox (贝特朗悖论)的视频]
# [https://box.nju.edu.cn/f/b7410b6c349a438bbfa6/ 概率空间]
#* 阅读：'''[BT] 第1章'''

= Concepts =
* [https://plato.stanford.edu/entries/probability-interpret/ Interpretations of probability]
* [https://en.wikipedia.org/wiki/History_of_probability History of probability]
* Example problems:
** [https://dornsifecms.usc.edu/assets/sites/520/docs/VonNeumann-ams12p36-38.pdf von Neumann's Bernoulli factory] and other [https://peteroupc.github.io/bernoulli.html Bernoulli factory algorithms]
** [https://en.wikipedia.org/wiki/Boy_or_Girl_paradox Boy or Girl paradox]
** [https://en.wikipedia.org/wiki/Monty_Hall_problem Monty Hall problem]
** [https://en.wikipedia.org/wiki/Bertrand_paradox_(probability) Bertrand paradox]
** [https://en.wikipedia.org/wiki/Hard_spheres Hard spheres model] and [https://en.wikipedia.org/wiki/Ising_model Ising model]
** [https://en.wikipedia.org/wiki/PageRank ''PageRank''] and stationary [https://en.wikipedia.org/wiki/Random_walk random walk]
** [https://en.wikipedia.org/wiki/Diffusion_process Diffusion process] and [https://en.wikipedia.org/wiki/Diffusion_model diffusion model]
*[https://en.wikipedia.org/wiki/Probability_space Probability space]
** [https://en.wikipedia.org/wiki/Sample_space Sample space]
** [https://en.wikipedia.org/wiki/Event_(probability_theory) Event] and [https://en.wikipedia.org/wiki/Σ-algebra <math>\sigma</math>-algebra]
** Kolmogorov's [https://en.wikipedia.org/wiki/Probability_axioms axioms of probability]
* [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Classical] and [https://en.wikipedia.org/wiki/Geometric_probability goemetric probability]
* [https://en.wikipedia.org/wiki/Boole%27s_inequality Union bound]
** [https://en.wikipedia.org/wiki/Inclusion%E2%80%93exclusion_principle Inclusion-Exclusion principle]
** [https://en.wikipedia.org/wiki/Boole%27s_inequality#Bonferroni_inequalities Bonferroni inequalities]
* [https://en.wikipedia.org/wiki/Conditional_probability Conditional probability]
** [https://en.wikipedia.org/wiki/Chain_rule_(probability) Chain rule]
** [https://en.wikipedia.org/wiki/Law_of_total_probability Law of total probability]
** [https://en.wikipedia.org/wiki/Bayes%27_theorem Bayes' law]
* [https://en.wikipedia.org/wiki/Independence_(probability_theory) Independence]
** [https://en.wikipedia.org/wiki/Pairwise_independence Pairwise independence]
* [https://en.wikipedia.org/wiki/Random_variable Random variable]
** [https://en.wikipedia.org/wiki/Cumulative_distribution_function Cumulative distribution function]
** [https://en.wikipedia.org/wiki/Probability_mass_function Probability mass function]
** [https://en.wikipedia.org/wiki/Probability_density_function Probability density function]
* [https://en.wikipedia.org/wiki/Multivariate_random_variable Random vector]
** [https://en.wikipedia.org/wiki/Joint_probability_distribution Joint probability distribution]
** [https://en.wikipedia.org/wiki/Conditional_probability_distribution Conditional probability distribution]
** [https://en.wikipedia.org/wiki/Marginal_distribution Marginal distribution]
* Some '''discrete''' probability distributions
** [https://en.wikipedia.org/wiki/Bernoulli_trial Bernoulli trial] and [https://en.wikipedia.org/wiki/Bernoulli_distribution Bernoulli distribution]
** [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Discrete uniform distribution]
** [https://en.wikipedia.org/wiki/Binomial_distribution Binomial distribution]
** [https://en.wikipedia.org/wiki/Geometric_distribution Geometric distribution]
** [https://en.wikipedia.org/wiki/Negative_binomial_distribution Negative binomial distribution]
** [https://en.wikipedia.org/wiki/Hypergeometric_distribution Hypergeometric distribution]
** [https://en.wikipedia.org/wiki/Poisson_distribution Poisson distribution]
** and [https://en.wikipedia.org/wiki/List_of_probability_distributions#Discrete_distributions others]
* Balls into bins model
** [https://en.wikipedia.org/wiki/Multinomial_distribution Multinomial distribution]
** [https://en.wikipedia.org/wiki/Birthday_problem Birthday problem]
** [https://en.wikipedia.org/wiki/Coupon_collector%27s_problem Coupon collector]
** [https://en.wikipedia.org/wiki/Balls_into_bins_problem Occupancy problem]
* Random graphs
** [https://en.wikipedia.org/wiki/Erd%C5%91s%E2%80%93R%C3%A9nyi_model Erdős–Rényi random graph model]
** [https://en.wikipedia.org/wiki/Galton%E2%80%93Watson_process Galton–Watson branching process]
* [https://en.wikipedia.org/wiki/Expected_value Expectation]
** [https://en.wikipedia.org/wiki/Law_of_the_unconscious_statistician Law of the unconscious statistician, ''LOTUS'']
** [https://dlsun.github.io/probability/linearity.html Linearity of expectation]
** [https://en.wikipedia.org/wiki/Conditional_expectation Conditional expectation]
** [https://en.wikipedia.org/wiki/Law_of_total_expectation Law of total expectation]

数据科学基础 (Fall 2026)

2026-08-28T13:46:51Z

Liumingmou: /* Lectures */

{{Infobox
|name = Infobox
|bodystyle =
|title = '''数据科学基础''' 
Foundations of Data Science
|titlestyle =

|image =
|imagestyle =
|caption =
|captionstyle =
|headerstyle = background:#ccf;
|labelstyle = background:#ddf;
|datastyle =

|header1 =Instructor
|label1 =
|data1 =
|header2 =
|label2 =
|data5 = '''刘明谋'''
|header6 =
|label6 = Email
|data6 = lmm@nju.edu.cn
|header7 =
|label7 = office
|data7 = 南雍-西229
|header8 = Class
|label8 =
|data8 =
|header9 =
|label9 = Class meeting
|data9 = 周五, 18:30-21:20 苏教楼B207
|header10=
|label10 = Office hour
|data10 = 周四, 3pm-5pm 南雍-西229
|header11= Textbook
|label11 =
|data11 =
|header12=
|label12 =
|data12 = [[File:概率导论.jpeg|border|100px]]
|header13=
|label13 =
|data13 = '''概率导论'''（第2版·修订版） Dimitri P. Bertsekas and John N. Tsitsiklis 郑忠国童行伟译；人民邮电出版社 (2022)
|header14=
|label14 =
|data14 = [[File:Probability_and_Computing_2ed.jpg|border|100px]]
|header15=
|label15 =
|data15 = '''Probability and Computing''' (2E) Michael Mitzenmacher and Eli Upfal Cambridge University Press (2017)
|header16=
|label16 =
|data16 = [[File:Foundations_of_Data_Science.jpg|border|100px]]
|header17=
|label17 =
|data17 = '''Foundations of Data Science''' Avrim Blum, John Hopcroft, Ravi Kannan Cambridge University Press (2020)
|belowstyle = background:#ddf;
|below =
}}

This is the webpage for the ''Foundations of Data Science'' (数据科学基础) class of Fall 2025. Students who take this class should check this page periodically for content updates and new announcements.

= Announcement =
* 新学期第一堂课：2026年8月28日，苏教楼B207。

= Course info =
* '''任课教师''':
:* [https://liumingmou.github.io 刘明谋]：[mailto:lmm@nju.edu.cn 📧]，南雍-西229
* '''助教''':
** 王思齐：[mailto:siqi_wang@smail.nju.edu.cn 📧]
** 齐世毅：[mailto:1083951258@qq.com 📧]
* '''课程时间地点''':
** 周五，18:30-21:20，苏教B207
* '''qq群''': 1106577612

= Syllabus =
课程内容分为三大部分：

* '''经典概率论'''：包括概率空间、随机变量及其数字特征、多维与连续随机变量
* '''概率与计算'''：包括测度集中现象，概率法，离散随机过程三部分
* '''数理统计'''：包括参数估计、假设检验、贝叶斯估计、方差分析、相关性及回归分析等统计推断内容。

对于第一和第二部分，要求清楚掌握基本概念，深刻理解关键的现象与规律以及背后的原理，并可以灵活运用所学方法求解相关问题。对于第三部分，要求熟悉数理统计相关的基本概念，以及典型的统计模型、统计推断方法。

经过本课程的训练，学生将能够掌握概率论和统计学的基本理论和方法，具备处理和分析实际数据的能力，为后续学习数据挖掘、机器学习、大数据技术等数据科学相关领域打下坚实基础。本课程采用课堂讲授、案例分析和课后练习相结合的教学方式，注重理论与实践相结合，培养学生运用所学知识解决实际问题的能力。通过本课程的学习，学生将能够具备扎实的数学基础，为未来从事数据科学研究和实践奠定坚实基础。

=== 教材与参考书 Course Materials ===
* '''[BT]''' 概率导论（第2版·修订版），[美]伯特瑟卡斯（Dimitri P.Bertsekas）[美]齐齐克利斯（John N.Tsitsiklis）著，郑忠国童行伟译，人民邮电出版社（2022）。
* '''[MU]''' ''Probability and Computing: Randomization and Probabilistic Techniques in Algorithms and Data Analysis'', by Michael Mitzenmacher, Eli Upfal; Cambridge University Press; 2nd edition (2017).
* '''[GS]''' ''Probability and Random Processes'', by Geoffrey Grimmett and David Stirzaker; Oxford University Press; 4th edition (2020).
* '''[BHK]''' ''Foundations of Data Science'', by Avrim Blum, John Hopcroft, and Ravindran Kannan; Cambridge University Press (2020).

=== 成绩 Grading Policy ===
* 课程成绩：本课程将会有若干次作业和期中期末考试。最终成绩将由平时作业成绩和期末考试成绩综合得出。
* 迟交：如果有特殊的理由，无法按时完成作业，请提前联系授课老师，给出正当理由。否则迟交的作业将不被接受。

=== 学术诚信 Academic Integrity ===
学术诚信是所有从事学术活动的学生和学者最基本的职业道德底线，本课程将不遗余力的维护学术诚信规范，违反这一底线的行为将不会被容忍。

作业完成的原则：'''署你名字的工作必须是你个人的贡献，任何不是由你完成的部分都必须明确标注'''，特别是由AI生成的部分，否则就涉嫌抄袭。在完成作业的过程中，允许讨论，前提是讨论的所有参与者均处于同等完成度。但关键想法的执行、以及作业文本的写作必须独立完成，并在作业中致谢（acknowledge）所有参与讨论的人。符合规则的讨论与致谢将不会影响得分。不允许其他任何形式的合作——尤其是与已经完成作业的同学“讨论”。

本课程将对剽窃行为采取零容忍的态度。在完成作业过程中，对他人工作（出版物、互联网资料、其他人的作业等）直接的文本抄袭和对关键思想、关键元素的抄袭，按照 [http://www.acm.org/publications/policies/plagiarism_policy ACM Policy on Plagiarism]的解释，都将视为剽窃。剽窃者成绩将被取消。如果发现互相抄袭行为， 抄袭和被抄袭双方的成绩都将被取消。因此请主动防止自己的作业被他人抄袭。

学术诚信影响学生个人的品行，也关乎整个教育系统的正常运转。为了一点分数而做出学术不端的行为，不仅使自己沦为一个欺骗者，也使他人的诚实努力失去意义。让我们一起努力维护一个诚信的环境。

= Assignments =
*TBA

= Lectures =
# [https://box.nju.edu.cn/f/325086e21b594e7882c7/ 课程简介]
#* [https://www.bilibili.com/video/BV1Vkz4YqEC9 Bertrand Paradox (贝特朗悖论)的视频]
# [https://box.nju.edu.cn/f/b7410b6c349a438bbfa6/ 概率空间]
#* 阅读：'''[BT] 第1章'''

= Concepts =
* [https://plato.stanford.edu/entries/probability-interpret/ Interpretations of probability]
* [https://en.wikipedia.org/wiki/History_of_probability History of probability]
* Example problems:
** [https://dornsifecms.usc.edu/assets/sites/520/docs/VonNeumann-ams12p36-38.pdf von Neumann's Bernoulli factory] and other [https://peteroupc.github.io/bernoulli.html Bernoulli factory algorithms]
** [https://en.wikipedia.org/wiki/Boy_or_Girl_paradox Boy or Girl paradox]
** [https://en.wikipedia.org/wiki/Monty_Hall_problem Monty Hall problem]
** [https://en.wikipedia.org/wiki/Bertrand_paradox_(probability) Bertrand paradox]
** [https://en.wikipedia.org/wiki/Hard_spheres Hard spheres model] and [https://en.wikipedia.org/wiki/Ising_model Ising model]
** [https://en.wikipedia.org/wiki/PageRank ''PageRank''] and stationary [https://en.wikipedia.org/wiki/Random_walk random walk]
** [https://en.wikipedia.org/wiki/Diffusion_process Diffusion process] and [https://en.wikipedia.org/wiki/Diffusion_model diffusion model]
*[https://en.wikipedia.org/wiki/Probability_space Probability space]
** [https://en.wikipedia.org/wiki/Sample_space Sample space]
** [https://en.wikipedia.org/wiki/Event_(probability_theory) Event] and [https://en.wikipedia.org/wiki/Σ-algebra <math>\sigma</math>-algebra]
** Kolmogorov's [https://en.wikipedia.org/wiki/Probability_axioms axioms of probability]
* [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Classical] and [https://en.wikipedia.org/wiki/Geometric_probability goemetric probability]
* [https://en.wikipedia.org/wiki/Boole%27s_inequality Union bound]
** [https://en.wikipedia.org/wiki/Inclusion%E2%80%93exclusion_principle Inclusion-Exclusion principle]
** [https://en.wikipedia.org/wiki/Boole%27s_inequality#Bonferroni_inequalities Bonferroni inequalities]
* [https://en.wikipedia.org/wiki/Conditional_probability Conditional probability]
** [https://en.wikipedia.org/wiki/Chain_rule_(probability) Chain rule]
** [https://en.wikipedia.org/wiki/Law_of_total_probability Law of total probability]
** [https://en.wikipedia.org/wiki/Bayes%27_theorem Bayes' law]
* [https://en.wikipedia.org/wiki/Independence_(probability_theory) Independence]
** [https://en.wikipedia.org/wiki/Pairwise_independence Pairwise independence]
* [https://en.wikipedia.org/wiki/Random_variable Random variable]
** [https://en.wikipedia.org/wiki/Cumulative_distribution_function Cumulative distribution function]
** [https://en.wikipedia.org/wiki/Probability_mass_function Probability mass function]
** [https://en.wikipedia.org/wiki/Probability_density_function Probability density function]
* [https://en.wikipedia.org/wiki/Multivariate_random_variable Random vector]
** [https://en.wikipedia.org/wiki/Joint_probability_distribution Joint probability distribution]
** [https://en.wikipedia.org/wiki/Conditional_probability_distribution Conditional probability distribution]
** [https://en.wikipedia.org/wiki/Marginal_distribution Marginal distribution]
* Some '''discrete''' probability distributions
** [https://en.wikipedia.org/wiki/Bernoulli_trial Bernoulli trial] and [https://en.wikipedia.org/wiki/Bernoulli_distribution Bernoulli distribution]
** [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Discrete uniform distribution]
** [https://en.wikipedia.org/wiki/Binomial_distribution Binomial distribution]
** [https://en.wikipedia.org/wiki/Geometric_distribution Geometric distribution]
** [https://en.wikipedia.org/wiki/Negative_binomial_distribution Negative binomial distribution]
** [https://en.wikipedia.org/wiki/Hypergeometric_distribution Hypergeometric distribution]
** [https://en.wikipedia.org/wiki/Poisson_distribution Poisson distribution]
** and [https://en.wikipedia.org/wiki/List_of_probability_distributions#Discrete_distributions others]
* Balls into bins model
** [https://en.wikipedia.org/wiki/Multinomial_distribution Multinomial distribution]
** [https://en.wikipedia.org/wiki/Birthday_problem Birthday problem]
** [https://en.wikipedia.org/wiki/Coupon_collector%27s_problem Coupon collector]
** [https://en.wikipedia.org/wiki/Balls_into_bins_problem Occupancy problem]
* Random graphs
** [https://en.wikipedia.org/wiki/Erd%C5%91s%E2%80%93R%C3%A9nyi_model Erdős–Rényi random graph model]
** [https://en.wikipedia.org/wiki/Galton%E2%80%93Watson_process Galton–Watson branching process]
* [https://en.wikipedia.org/wiki/Expected_value Expectation]
** [https://en.wikipedia.org/wiki/Law_of_the_unconscious_statistician Law of the unconscious statistician, ''LOTUS'']
** [https://dlsun.github.io/probability/linearity.html Linearity of expectation]
** [https://en.wikipedia.org/wiki/Conditional_expectation Conditional expectation]
** [https://en.wikipedia.org/wiki/Law_of_total_expectation Law of total expectation]

数据科学基础 (Fall 2026)

2026-08-27T13:37:58Z

Liumingmou: /* Course info */

{{Infobox
|name = Infobox
|bodystyle =
|title = '''数据科学基础''' 
Foundations of Data Science
|titlestyle =

|image =
|imagestyle =
|caption =
|captionstyle =
|headerstyle = background:#ccf;
|labelstyle = background:#ddf;
|datastyle =

|header1 =Instructor
|label1 =
|data1 =
|header2 =
|label2 =
|data5 = '''刘明谋'''
|header6 =
|label6 = Email
|data6 = lmm@nju.edu.cn
|header7 =
|label7 = office
|data7 = 南雍-西229
|header8 = Class
|label8 =
|data8 =
|header9 =
|label9 = Class meeting
|data9 = 周五, 18:30-21:20 苏教楼B207
|header10=
|label10 = Office hour
|data10 = 周四, 3pm-5pm 南雍-西229
|header11= Textbook
|label11 =
|data11 =
|header12=
|label12 =
|data12 = [[File:概率导论.jpeg|border|100px]]
|header13=
|label13 =
|data13 = '''概率导论'''（第2版·修订版） Dimitri P. Bertsekas and John N. Tsitsiklis 郑忠国童行伟译；人民邮电出版社 (2022)
|header14=
|label14 =
|data14 = [[File:Probability_and_Computing_2ed.jpg|border|100px]]
|header15=
|label15 =
|data15 = '''Probability and Computing''' (2E) Michael Mitzenmacher and Eli Upfal Cambridge University Press (2017)
|header16=
|label16 =
|data16 = [[File:Foundations_of_Data_Science.jpg|border|100px]]
|header17=
|label17 =
|data17 = '''Foundations of Data Science''' Avrim Blum, John Hopcroft, Ravi Kannan Cambridge University Press (2020)
|belowstyle = background:#ddf;
|below =
}}

This is the webpage for the ''Foundations of Data Science'' (数据科学基础) class of Fall 2025. Students who take this class should check this page periodically for content updates and new announcements.

= Announcement =
* 新学期第一堂课：2026年8月28日，苏教楼B207。

= Course info =
* '''任课教师''':
:* [https://liumingmou.github.io 刘明谋]：[mailto:lmm@nju.edu.cn 📧]，南雍-西229
* '''助教''':
** 王思齐：[mailto:siqi_wang@smail.nju.edu.cn 📧]
** 齐世毅：[mailto:1083951258@qq.com 📧]
* '''课程时间地点''':
** 周五，18:30-21:20，苏教B207
* '''qq群''': 1106577612

= Syllabus =
课程内容分为三大部分：

* '''经典概率论'''：包括概率空间、随机变量及其数字特征、多维与连续随机变量
* '''概率与计算'''：包括测度集中现象，概率法，离散随机过程三部分
* '''数理统计'''：包括参数估计、假设检验、贝叶斯估计、方差分析、相关性及回归分析等统计推断内容。

对于第一和第二部分，要求清楚掌握基本概念，深刻理解关键的现象与规律以及背后的原理，并可以灵活运用所学方法求解相关问题。对于第三部分，要求熟悉数理统计相关的基本概念，以及典型的统计模型、统计推断方法。

经过本课程的训练，学生将能够掌握概率论和统计学的基本理论和方法，具备处理和分析实际数据的能力，为后续学习数据挖掘、机器学习、大数据技术等数据科学相关领域打下坚实基础。本课程采用课堂讲授、案例分析和课后练习相结合的教学方式，注重理论与实践相结合，培养学生运用所学知识解决实际问题的能力。通过本课程的学习，学生将能够具备扎实的数学基础，为未来从事数据科学研究和实践奠定坚实基础。

=== 教材与参考书 Course Materials ===
* '''[BT]''' 概率导论（第2版·修订版），[美]伯特瑟卡斯（Dimitri P.Bertsekas）[美]齐齐克利斯（John N.Tsitsiklis）著，郑忠国童行伟译，人民邮电出版社（2022）。
* '''[MU]''' ''Probability and Computing: Randomization and Probabilistic Techniques in Algorithms and Data Analysis'', by Michael Mitzenmacher, Eli Upfal; Cambridge University Press; 2nd edition (2017).
* '''[GS]''' ''Probability and Random Processes'', by Geoffrey Grimmett and David Stirzaker; Oxford University Press; 4th edition (2020).
* '''[BHK]''' ''Foundations of Data Science'', by Avrim Blum, John Hopcroft, and Ravindran Kannan; Cambridge University Press (2020).

=== 成绩 Grading Policy ===
* 课程成绩：本课程将会有若干次作业和期中期末考试。最终成绩将由平时作业成绩和期末考试成绩综合得出。
* 迟交：如果有特殊的理由，无法按时完成作业，请提前联系授课老师，给出正当理由。否则迟交的作业将不被接受。

=== 学术诚信 Academic Integrity ===
学术诚信是所有从事学术活动的学生和学者最基本的职业道德底线，本课程将不遗余力的维护学术诚信规范，违反这一底线的行为将不会被容忍。

作业完成的原则：'''署你名字的工作必须是你个人的贡献，任何不是由你完成的部分都必须明确标注'''，特别是由AI生成的部分，否则就涉嫌抄袭。在完成作业的过程中，允许讨论，前提是讨论的所有参与者均处于同等完成度。但关键想法的执行、以及作业文本的写作必须独立完成，并在作业中致谢（acknowledge）所有参与讨论的人。符合规则的讨论与致谢将不会影响得分。不允许其他任何形式的合作——尤其是与已经完成作业的同学“讨论”。

本课程将对剽窃行为采取零容忍的态度。在完成作业过程中，对他人工作（出版物、互联网资料、其他人的作业等）直接的文本抄袭和对关键思想、关键元素的抄袭，按照 [http://www.acm.org/publications/policies/plagiarism_policy ACM Policy on Plagiarism]的解释，都将视为剽窃。剽窃者成绩将被取消。如果发现互相抄袭行为， 抄袭和被抄袭双方的成绩都将被取消。因此请主动防止自己的作业被他人抄袭。

学术诚信影响学生个人的品行，也关乎整个教育系统的正常运转。为了一点分数而做出学术不端的行为，不仅使自己沦为一个欺骗者，也使他人的诚实努力失去意义。让我们一起努力维护一个诚信的环境。

= Assignments =
*TBA

= Lectures =
# TBA

= Concepts =
* [https://plato.stanford.edu/entries/probability-interpret/ Interpretations of probability]
* [https://en.wikipedia.org/wiki/History_of_probability History of probability]
* Example problems:
** [https://dornsifecms.usc.edu/assets/sites/520/docs/VonNeumann-ams12p36-38.pdf von Neumann's Bernoulli factory] and other [https://peteroupc.github.io/bernoulli.html Bernoulli factory algorithms]
** [https://en.wikipedia.org/wiki/Boy_or_Girl_paradox Boy or Girl paradox]
** [https://en.wikipedia.org/wiki/Monty_Hall_problem Monty Hall problem]
** [https://en.wikipedia.org/wiki/Bertrand_paradox_(probability) Bertrand paradox]
** [https://en.wikipedia.org/wiki/Hard_spheres Hard spheres model] and [https://en.wikipedia.org/wiki/Ising_model Ising model]
** [https://en.wikipedia.org/wiki/PageRank ''PageRank''] and stationary [https://en.wikipedia.org/wiki/Random_walk random walk]
** [https://en.wikipedia.org/wiki/Diffusion_process Diffusion process] and [https://en.wikipedia.org/wiki/Diffusion_model diffusion model]
*[https://en.wikipedia.org/wiki/Probability_space Probability space]
** [https://en.wikipedia.org/wiki/Sample_space Sample space]
** [https://en.wikipedia.org/wiki/Event_(probability_theory) Event] and [https://en.wikipedia.org/wiki/Σ-algebra <math>\sigma</math>-algebra]
** Kolmogorov's [https://en.wikipedia.org/wiki/Probability_axioms axioms of probability]
* [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Classical] and [https://en.wikipedia.org/wiki/Geometric_probability goemetric probability]
* [https://en.wikipedia.org/wiki/Boole%27s_inequality Union bound]
** [https://en.wikipedia.org/wiki/Inclusion%E2%80%93exclusion_principle Inclusion-Exclusion principle]
** [https://en.wikipedia.org/wiki/Boole%27s_inequality#Bonferroni_inequalities Bonferroni inequalities]
* [https://en.wikipedia.org/wiki/Conditional_probability Conditional probability]
** [https://en.wikipedia.org/wiki/Chain_rule_(probability) Chain rule]
** [https://en.wikipedia.org/wiki/Law_of_total_probability Law of total probability]
** [https://en.wikipedia.org/wiki/Bayes%27_theorem Bayes' law]
* [https://en.wikipedia.org/wiki/Independence_(probability_theory) Independence]
** [https://en.wikipedia.org/wiki/Pairwise_independence Pairwise independence]
* [https://en.wikipedia.org/wiki/Random_variable Random variable]
** [https://en.wikipedia.org/wiki/Cumulative_distribution_function Cumulative distribution function]
** [https://en.wikipedia.org/wiki/Probability_mass_function Probability mass function]
** [https://en.wikipedia.org/wiki/Probability_density_function Probability density function]
* [https://en.wikipedia.org/wiki/Multivariate_random_variable Random vector]
** [https://en.wikipedia.org/wiki/Joint_probability_distribution Joint probability distribution]
** [https://en.wikipedia.org/wiki/Conditional_probability_distribution Conditional probability distribution]
** [https://en.wikipedia.org/wiki/Marginal_distribution Marginal distribution]
* Some '''discrete''' probability distributions
** [https://en.wikipedia.org/wiki/Bernoulli_trial Bernoulli trial] and [https://en.wikipedia.org/wiki/Bernoulli_distribution Bernoulli distribution]
** [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Discrete uniform distribution]
** [https://en.wikipedia.org/wiki/Binomial_distribution Binomial distribution]
** [https://en.wikipedia.org/wiki/Geometric_distribution Geometric distribution]
** [https://en.wikipedia.org/wiki/Negative_binomial_distribution Negative binomial distribution]
** [https://en.wikipedia.org/wiki/Hypergeometric_distribution Hypergeometric distribution]
** [https://en.wikipedia.org/wiki/Poisson_distribution Poisson distribution]
** and [https://en.wikipedia.org/wiki/List_of_probability_distributions#Discrete_distributions others]
* Balls into bins model
** [https://en.wikipedia.org/wiki/Multinomial_distribution Multinomial distribution]
** [https://en.wikipedia.org/wiki/Birthday_problem Birthday problem]
** [https://en.wikipedia.org/wiki/Coupon_collector%27s_problem Coupon collector]
** [https://en.wikipedia.org/wiki/Balls_into_bins_problem Occupancy problem]
* Random graphs
** [https://en.wikipedia.org/wiki/Erd%C5%91s%E2%80%93R%C3%A9nyi_model Erdős–Rényi random graph model]
** [https://en.wikipedia.org/wiki/Galton%E2%80%93Watson_process Galton–Watson branching process]
* [https://en.wikipedia.org/wiki/Expected_value Expectation]
** [https://en.wikipedia.org/wiki/Law_of_the_unconscious_statistician Law of the unconscious statistician, ''LOTUS'']
** [https://dlsun.github.io/probability/linearity.html Linearity of expectation]
** [https://en.wikipedia.org/wiki/Conditional_expectation Conditional expectation]
** [https://en.wikipedia.org/wiki/Law_of_total_expectation Law of total expectation]

Main Page

2026-08-21T12:59:49Z

Liumingmou: /* Home Pages for Courses and Seminars */

This is a course/seminar wiki run by the [http://tcs.nju.edu.cn theory group] in the Department of Computer Science and Technology at Nanjing University.

== Home Pages for Courses and Seminars==
;Current semester

* [[高级算法 (Fall 2026)|高级算法 Advanced Algorithms (Fall 2026)]]

* [[计算方法 Numerical method (Fall 2026)|计算方法 Numerical method (Fall 2026)]]

* [[数据科学基础 (Fall 2026)|数据科学基础 (Fall 2026)]]

;Past courses

* Advanced Algorithms: [[高级算法 (Spring 2026)| Spring 2026 (Suzhou)]], [[高级算法 (Fall 2025)|Fall 2025]], [[高级算法 (Spring 2025)|Spring 2025 (Suzhou)]], [[高级算法 (Fall 2024)|Fall 2024]], [[高级算法 (Fall 2023)|Fall 2023]], [[高级算法 (Fall 2022)|Fall 2022]], [[高级算法 (Fall 2021)|Fall 2021]], [[高级算法 (Fall 2020)|Fall 2020]], [[高级算法 (Fall 2019)|Fall 2019]], [[高级算法 (Fall 2018)|Fall 2018]], [[高级算法 (Fall 2017)|Fall 2017]], [[随机算法 \ 高级算法 (Fall 2016)|Fall 2016]].

*Algorithm Design and Analysis: [https://tcs.nju.edu.cn/shili/courses/2024spring-algo/ Spring 2024]

* Combinatorics: [[组合数学 (Spring 2026)|Spring 2026]], [[组合数学 (Spring 2025)|Spring 2025]], [[组合数学 (Spring 2024)|Spring 2024]], [[组合数学 (Spring 2023)|Spring 2023]], [[组合数学 (Fall 2019)|Fall 2019]], [[组合数学 (Fall 2017)|Fall 2017]], [[组合数学 (Fall 2016)|Fall 2016]], [[组合数学 (Fall 2015)|Fall 2015]], [[组合数学 (Spring 2014)|Spring 2014]], [[组合数学 (Spring 2013)|Spring 2013]], [[组合数学 (Fall 2011)|Fall 2011]], [[Combinatorics (Fall 2010)|Fall 2010]].

* Computational Complexity: [[计算复杂性 (Spring 2026)| Spring 2026]], [[计算复杂性 (Spring 2025)|Spring 2025]], [[计算复杂性 (Spring 2024)|Spring 2024]], [[计算复杂性 (Spring 2023)|Spring 2023]], [[计算复杂性 (Fall 2019)|Fall 2019]], [[计算复杂性 (Fall 2018)|Fall 2018]].

* Foundations of Data Science: [[数据科学基础 (Fall 2025)|Fall 2025]], [[数据科学基础 (Fall 2024)|Fall 2024]]

* Numerical Method: [[计算方法 Numerical method (Spring 2026)|Spring 2026]], [[计算方法 Numerical method (Spring 2025)|Spring 2025]], [[计算方法 Numerical method (Spring 2024)|Spring 2024]], [[计算方法 Numerical method (Spring 2023)|Spring 2023]], [https://liuexp.github.io/numerical.html Spring 2022].

* Probability Theory: [[概率论与数理统计 (Spring 2026)| Spring 2026]], [[概率论与数理统计 (Spring 2025)|Spring 2025]], [[概率论与数理统计 (Spring 2024)|Spring 2024]], [[概率论与数理统计 (Spring 2023)|Spring 2023]].

* Quantum Computation: [[量子计算 (Spring 2022)|Spring 2022]], [[量子计算 (Spring 2021)|Spring 2021]], [[量子计算 (Fall 2019)|Fall 2019]].

* Randomized Algorithms: [[随机算法 (Fall 2015)|Fall 2015]], [[随机算法 (Spring 2014)|Spring 2014]], [[随机算法 (Spring 2013)|Spring 2013]], [[随机算法 (Fall 2011)|Fall 2011]], [[Randomized Algorithms (Spring 2010)|Spring 2010]].

;Past seminars, workshops and summer schools
*计算理论之美暑期学校: [[计算理论之美 (Summer 2026) | 2026]], [[计算理论之美 (Summer 2025)|2025]], [[计算理论之美 (Summer 2024)|2024]], [[计算理论之美 (Summer 2023)|2023]], [[计算理论之美 (Summer 2021)|2021]]
*[[Theory Seminar|理论计算机科学讨论班]]
*[[Study Group|理论计算机科学学习小组]]
*[[TCSPhD2020| 理论计算机科学优秀博士生论坛2020]]
*[[Quantum|量子算法与物理实现研讨会]]
*Theory Day: [[Theory@Suzhou 2025 | 2025 (Suzhou)]], [[Theory@Nanjing 2019|2019]], [[Theory@Nanjing 2018|2018]], [[Theory@Nanjing 2017|2017]]
*[[\Delta Seminar on Logic, Philosophy, and Computer Science|Δ Seminar on Logic, Philosophy, and Computer Science]]
*[[近似算法讨论班 (Fall 2011)|近似算法 Approximation Algorithms, Fall 2011.]]

; 其它链接
* [[General Circulation(Fall 2025)|大气环流 General Circulation of the Atmosphere, Fall 2025]]
* [[General Circulation(Fall 2024)|大气环流 General Circulation of the Atmosphere, Fall 2024]]

* [[概率论 (Summer 2014)| 概率与计算 (上海交大 Summer 2014)]]

数据科学基础 (Fall 2026)

2026-08-21T12:59:03Z

Liumingmou: Created page with "{{Infobox |name = Infobox |bodystyle = |title = '''数据科学基础''' Foundations of Data Science |titlestyle = |image = |imagestyle = |caption = |captionstyle = |headerstyle = background:#ccf; |labelstyle = background:#ddf; |datastyle = |header1 =Instructor |label1 = |data1 = |header2 = |label2 = |data5 = '''刘明谋''' |header6 = |label6 = Email |data6 = lmm@nju.edu.cn |header7 = |label..."

{{Infobox
|name = Infobox
|bodystyle =
|title = '''数据科学基础''' 
Foundations of Data Science
|titlestyle =

|image =
|imagestyle =
|caption =
|captionstyle =
|headerstyle = background:#ccf;
|labelstyle = background:#ddf;
|datastyle =

|header1 =Instructor
|label1 =
|data1 =
|header2 =
|label2 =
|data5 = '''刘明谋'''
|header6 =
|label6 = Email
|data6 = lmm@nju.edu.cn
|header7 =
|label7 = office
|data7 = 南雍-西229
|header8 = Class
|label8 =
|data8 =
|header9 =
|label9 = Class meeting
|data9 = 周五, 18:30-21:20 苏教楼B207
|header10=
|label10 = Office hour
|data10 = 周四, 3pm-5pm 南雍-西229
|header11= Textbook
|label11 =
|data11 =
|header12=
|label12 =
|data12 = [[File:概率导论.jpeg|border|100px]]
|header13=
|label13 =
|data13 = '''概率导论'''（第2版·修订版） Dimitri P. Bertsekas and John N. Tsitsiklis 郑忠国童行伟译；人民邮电出版社 (2022)
|header14=
|label14 =
|data14 = [[File:Probability_and_Computing_2ed.jpg|border|100px]]
|header15=
|label15 =
|data15 = '''Probability and Computing''' (2E) Michael Mitzenmacher and Eli Upfal Cambridge University Press (2017)
|header16=
|label16 =
|data16 = [[File:Foundations_of_Data_Science.jpg|border|100px]]
|header17=
|label17 =
|data17 = '''Foundations of Data Science''' Avrim Blum, John Hopcroft, Ravi Kannan Cambridge University Press (2020)
|belowstyle = background:#ddf;
|below =
}}

This is the webpage for the ''Foundations of Data Science'' (数据科学基础) class of Fall 2025. Students who take this class should check this page periodically for content updates and new announcements.

= Announcement =
* 新学期第一堂课：2026年8月28日，苏教楼B207。

= Course info =
* '''任课教师''':
:* [https://liumingmou.github.io 刘明谋]：[mailto:lmm@nju.edu.cn 📧]，南雍-西229
* '''助教''':
** 王思齐：[mailto:siqi_wang@smail.nju.edu.cn 📧]
** 齐世毅：[mailto:1083951258@qq.com 📧]
* '''课程时间地点''':
** 周五，18:30-21:20，苏教B207

= Syllabus =
课程内容分为三大部分：

* '''经典概率论'''：包括概率空间、随机变量及其数字特征、多维与连续随机变量
* '''概率与计算'''：包括测度集中现象，概率法，离散随机过程三部分
* '''数理统计'''：包括参数估计、假设检验、贝叶斯估计、方差分析、相关性及回归分析等统计推断内容。

对于第一和第二部分，要求清楚掌握基本概念，深刻理解关键的现象与规律以及背后的原理，并可以灵活运用所学方法求解相关问题。对于第三部分，要求熟悉数理统计相关的基本概念，以及典型的统计模型、统计推断方法。

经过本课程的训练，学生将能够掌握概率论和统计学的基本理论和方法，具备处理和分析实际数据的能力，为后续学习数据挖掘、机器学习、大数据技术等数据科学相关领域打下坚实基础。本课程采用课堂讲授、案例分析和课后练习相结合的教学方式，注重理论与实践相结合，培养学生运用所学知识解决实际问题的能力。通过本课程的学习，学生将能够具备扎实的数学基础，为未来从事数据科学研究和实践奠定坚实基础。

=== 教材与参考书 Course Materials ===
* '''[BT]''' 概率导论（第2版·修订版），[美]伯特瑟卡斯（Dimitri P.Bertsekas）[美]齐齐克利斯（John N.Tsitsiklis）著，郑忠国童行伟译，人民邮电出版社（2022）。
* '''[MU]''' ''Probability and Computing: Randomization and Probabilistic Techniques in Algorithms and Data Analysis'', by Michael Mitzenmacher, Eli Upfal; Cambridge University Press; 2nd edition (2017).
* '''[GS]''' ''Probability and Random Processes'', by Geoffrey Grimmett and David Stirzaker; Oxford University Press; 4th edition (2020).
* '''[BHK]''' ''Foundations of Data Science'', by Avrim Blum, John Hopcroft, and Ravindran Kannan; Cambridge University Press (2020).

=== 成绩 Grading Policy ===
* 课程成绩：本课程将会有若干次作业和期中期末考试。最终成绩将由平时作业成绩和期末考试成绩综合得出。
* 迟交：如果有特殊的理由，无法按时完成作业，请提前联系授课老师，给出正当理由。否则迟交的作业将不被接受。

=== 学术诚信 Academic Integrity ===
学术诚信是所有从事学术活动的学生和学者最基本的职业道德底线，本课程将不遗余力的维护学术诚信规范，违反这一底线的行为将不会被容忍。

作业完成的原则：'''署你名字的工作必须是你个人的贡献，任何不是由你完成的部分都必须明确标注'''，特别是由AI生成的部分，否则就涉嫌抄袭。在完成作业的过程中，允许讨论，前提是讨论的所有参与者均处于同等完成度。但关键想法的执行、以及作业文本的写作必须独立完成，并在作业中致谢（acknowledge）所有参与讨论的人。符合规则的讨论与致谢将不会影响得分。不允许其他任何形式的合作——尤其是与已经完成作业的同学“讨论”。

本课程将对剽窃行为采取零容忍的态度。在完成作业过程中，对他人工作（出版物、互联网资料、其他人的作业等）直接的文本抄袭和对关键思想、关键元素的抄袭，按照 [http://www.acm.org/publications/policies/plagiarism_policy ACM Policy on Plagiarism]的解释，都将视为剽窃。剽窃者成绩将被取消。如果发现互相抄袭行为， 抄袭和被抄袭双方的成绩都将被取消。因此请主动防止自己的作业被他人抄袭。

学术诚信影响学生个人的品行，也关乎整个教育系统的正常运转。为了一点分数而做出学术不端的行为，不仅使自己沦为一个欺骗者，也使他人的诚实努力失去意义。让我们一起努力维护一个诚信的环境。

= Assignments =
*TBA

= Lectures =
# TBA

= Concepts =
* [https://plato.stanford.edu/entries/probability-interpret/ Interpretations of probability]
* [https://en.wikipedia.org/wiki/History_of_probability History of probability]
* Example problems:
** [https://dornsifecms.usc.edu/assets/sites/520/docs/VonNeumann-ams12p36-38.pdf von Neumann's Bernoulli factory] and other [https://peteroupc.github.io/bernoulli.html Bernoulli factory algorithms]
** [https://en.wikipedia.org/wiki/Boy_or_Girl_paradox Boy or Girl paradox]
** [https://en.wikipedia.org/wiki/Monty_Hall_problem Monty Hall problem]
** [https://en.wikipedia.org/wiki/Bertrand_paradox_(probability) Bertrand paradox]
** [https://en.wikipedia.org/wiki/Hard_spheres Hard spheres model] and [https://en.wikipedia.org/wiki/Ising_model Ising model]
** [https://en.wikipedia.org/wiki/PageRank ''PageRank''] and stationary [https://en.wikipedia.org/wiki/Random_walk random walk]
** [https://en.wikipedia.org/wiki/Diffusion_process Diffusion process] and [https://en.wikipedia.org/wiki/Diffusion_model diffusion model]
*[https://en.wikipedia.org/wiki/Probability_space Probability space]
** [https://en.wikipedia.org/wiki/Sample_space Sample space]
** [https://en.wikipedia.org/wiki/Event_(probability_theory) Event] and [https://en.wikipedia.org/wiki/Σ-algebra <math>\sigma</math>-algebra]
** Kolmogorov's [https://en.wikipedia.org/wiki/Probability_axioms axioms of probability]
* [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Classical] and [https://en.wikipedia.org/wiki/Geometric_probability goemetric probability]
* [https://en.wikipedia.org/wiki/Boole%27s_inequality Union bound]
** [https://en.wikipedia.org/wiki/Inclusion%E2%80%93exclusion_principle Inclusion-Exclusion principle]
** [https://en.wikipedia.org/wiki/Boole%27s_inequality#Bonferroni_inequalities Bonferroni inequalities]
* [https://en.wikipedia.org/wiki/Conditional_probability Conditional probability]
** [https://en.wikipedia.org/wiki/Chain_rule_(probability) Chain rule]
** [https://en.wikipedia.org/wiki/Law_of_total_probability Law of total probability]
** [https://en.wikipedia.org/wiki/Bayes%27_theorem Bayes' law]
* [https://en.wikipedia.org/wiki/Independence_(probability_theory) Independence]
** [https://en.wikipedia.org/wiki/Pairwise_independence Pairwise independence]
* [https://en.wikipedia.org/wiki/Random_variable Random variable]
** [https://en.wikipedia.org/wiki/Cumulative_distribution_function Cumulative distribution function]
** [https://en.wikipedia.org/wiki/Probability_mass_function Probability mass function]
** [https://en.wikipedia.org/wiki/Probability_density_function Probability density function]
* [https://en.wikipedia.org/wiki/Multivariate_random_variable Random vector]
** [https://en.wikipedia.org/wiki/Joint_probability_distribution Joint probability distribution]
** [https://en.wikipedia.org/wiki/Conditional_probability_distribution Conditional probability distribution]
** [https://en.wikipedia.org/wiki/Marginal_distribution Marginal distribution]
* Some '''discrete''' probability distributions
** [https://en.wikipedia.org/wiki/Bernoulli_trial Bernoulli trial] and [https://en.wikipedia.org/wiki/Bernoulli_distribution Bernoulli distribution]
** [https://en.wikipedia.org/wiki/Discrete_uniform_distribution Discrete uniform distribution]
** [https://en.wikipedia.org/wiki/Binomial_distribution Binomial distribution]
** [https://en.wikipedia.org/wiki/Geometric_distribution Geometric distribution]
** [https://en.wikipedia.org/wiki/Negative_binomial_distribution Negative binomial distribution]
** [https://en.wikipedia.org/wiki/Hypergeometric_distribution Hypergeometric distribution]
** [https://en.wikipedia.org/wiki/Poisson_distribution Poisson distribution]
** and [https://en.wikipedia.org/wiki/List_of_probability_distributions#Discrete_distributions others]
* Balls into bins model
** [https://en.wikipedia.org/wiki/Multinomial_distribution Multinomial distribution]
** [https://en.wikipedia.org/wiki/Birthday_problem Birthday problem]
** [https://en.wikipedia.org/wiki/Coupon_collector%27s_problem Coupon collector]
** [https://en.wikipedia.org/wiki/Balls_into_bins_problem Occupancy problem]
* Random graphs
** [https://en.wikipedia.org/wiki/Erd%C5%91s%E2%80%93R%C3%A9nyi_model Erdős–Rényi random graph model]
** [https://en.wikipedia.org/wiki/Galton%E2%80%93Watson_process Galton–Watson branching process]
* [https://en.wikipedia.org/wiki/Expected_value Expectation]
** [https://en.wikipedia.org/wiki/Law_of_the_unconscious_statistician Law of the unconscious statistician, ''LOTUS'']
** [https://dlsun.github.io/probability/linearity.html Linearity of expectation]
** [https://en.wikipedia.org/wiki/Conditional_expectation Conditional expectation]
** [https://en.wikipedia.org/wiki/Law_of_total_expectation Law of total expectation]

计算理论之美 (Summer 2026)

2026-07-27T01:06:12Z

Liumingmou: /* Tentative Schedule */

{{Infobox
|name = Infobox
|headerstyle = background:#4D72BE;
|labelstyle = background:#DAE1F0;

|header1 = 计算理论之美
|label2 = {{Nowrap|负责人}}
|data2 = 黄棱潇 ([mailto:huanglingxiao@nju.edu.cn huanglingxiao@nju.edu.cn])
|label4 = 时间
|data4 = 2026.7.24 — 2026.7.27
|label5 = 地点
|data5 = {{Nowrap|南京大学苏州校区苏教楼D202}}
|belowstyle = background:#DAE1F0;
|below =
}}

由南京大学计算机学院和智能软件学院支持的第5届“计算理论之美”暑期讲习班将于2026年7月24日至7月27日在江苏省苏州市南京大学苏州校区开班。本次讲习班将围绕算法设计主题开展系列报告，包括组合最优化、哈希表、差分隐私、量子计算、关于图的数据流算法、图计算、分布式算法等板块，主要面向对理论计算机科学以及计算机科学中的数学感兴趣的国内外本科生，安排4天的高级课程。内容深入浅出，由国内外一线的优秀学者讲授，使学员初步了解理论计算机科学的一些研究前沿、初步掌握一些新理论与新方法，为有志于从事理论计算机科学研究的学者打下一定的基础，也让从事其他相关方向研究的学生与教师们领略计算理论的魅力。

联系邮箱：nju_tcs@163.com

联系人：
* 黄棱潇： huanglingxiao@nju.edu.cn
* 刘明谋： lmm@nju.edu.cn
* 班吟： 175227530@qq.com

注册报名流程：由于前几届报名人数过多，本届将会采用问卷初筛形式进行报名。请同学们先填写以下调查问卷:

https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

问卷报名截止日期： 2026.6.20

通过初筛的同学将于讲习班开始前两周收到包含报名链接的邮件。由于今年讲习班将在苏州校区举办，南京校区的南大同学如需统一安排住宿，也请填写问卷；无需安排住宿的南大同学，'''无需填写问卷或报名，可在讲习班期间直接前往会场听取报告。'''

费用：本科生包住宿，非本科生不包含住宿。餐费自理。

'''<big>对讲习班感兴趣的九月份入学南大新生，欢迎在志愿填报完成后报名参加（发送邮箱至： nju_tcs@163.com）</big>'''

== Tentative Schedule ==

Venue (地点)：南京大学苏州校区苏教楼D202
[[File:苏教楼D.png|thumb|苏教楼D在图中红星处]]
Accommodation：南京大学苏州校区国际学术交流中心 
Group photo: 7月24日上午茶歇环节中安排参会者合影留念

Speakers (in lexicographic order): 陈林（浙江大学）、丁尧相（浙江大学）、刘明谋（南京大学）、Pasin Manurangsi（Google Research）、任瀚林（IAS）、王启圣（上海交通大学）、王宇扬(中国科学技术大学）、俞华程（普林斯顿大学）、张天翼（南京大学）、郑朝栋（南京大学）

:{|border="2" width="97%" cellspacing="4" cellpadding="3" rules="all" style="margin:1em 1em 1em 0; border:solid 1px #AAAAAA; border-collapse:collapse; empty-cells:show;"

|-
|bgcolor="#4D72BE" align="center" style="width: 21%"|'''Time'''
|bgcolor="#4D72BE" align="center"|'''Title'''
|bgcolor="#4D72BE" align="center" style="width: 40%"|'''Speaker'''

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月24日 July, 24th'''

|-
|align="center"|8:30 — 12:00
|align="center"|图染色算法
|align="center"|张天翼（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|图流算法
|align="center"|俞华程（普林斯顿大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月25日 July, 25th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Quantum Computation
|align="center"|王启圣（上海交通大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|现代哈希表设计
|align="center"|刘明谋（南京大学）
|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月26日 July, 26th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Differential Privacy
|align="center"|Pasin Manurangsi（Google Research）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|加性组合与算法设计
|align="center"|陈林（浙江大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月27日 July, 27th'''

|-
|align="center"|8:30 — 12:00
|align="center"|分布式算法与单机算法的同与异
|align="center"|郑朝栋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 15:00
|align="center"|Neuro-symbolic AI
|align="center"|戴望州（南京大学）

|-
|align="center" colspan="3"|15:00 — 15:10　休息

|-
|align="center"|15:10 — 16:10
|align="center"|Recent progress on near-maximum circuit lower bounds
|align="center"|任瀚林（Institute for Advanced Study）

|-
|align="center" colspan="3"|16:10 — 16:20　休息

|-
|align="center"|16:20 — 17:20
|align="center"|扩展图上生成树的局部计算算法
|align="center"|王宇扬（中国科学技术大学）

|-
|align="center" colspan="3"|17:20 — 17:30　交流

|}

== Take-home Exams ==
成绩优秀的同学可推荐参加南京大学计算机学院预推免保研面试，并在录取后可凭借此次暑期讲习班申请两个研究生学分。

作业提交方式：发送电子版到邮箱nju_tcs@163.com

== Getting to The Campus==
*入校：人员及车辆凭[https://tcs.nju.edu.cn/wiki/images/d/d3/%E8%AE%A1%E7%AE%97%E7%90%86%E8%AE%BA%E4%B9%8B%E7%BE%8E2026%E4%BC%9A%E8%AE%AE%E9%80%9A%E7%9F%A5.pdf 电子版会议通知]进校。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== Links to Past Summer Schools ==
* [[计算理论之美 (Summer 2025)|计算理论之美暑期学校 (Summer 2025)]]
* [[计算理论之美 (Summer 2024)|计算理论之美暑期学校 (Summer 2024)]]
* [[计算理论之美 (Summer 2023)|计算理论之美暑期学校 (Summer 2023)]]
* [[计算理论之美 (Summer 2021)|计算理论之美暑期学校 (Summer 2021)]]

== About Our Summer School ==
Our summer school is supported by the School of Computer Science and the School of Intelligent Software and Engineering at Nanjing University and will be held from July 24th to July 27th, 2026, at the Suzhou Campus of Nanjing University in Suzhou, Jiangsu Province, China. The theme of this year's summer school will be the design and analysis of algorithms, with topics ranging from combinatorial optimization, hash table design, differential privacy, quantum computing, streaming algorithms for graphs, graph algorithms, and distributed algorithms.
Target audience will include aspiring undergraduate and graduate students from China and overseas, and the program will feature 4 days of advanced courses. The courses will be presented by leading young scholars both from within China and overseas, covering both cutting-edge research and modern toolkits in theoretical computer science.
The summer school will help connect aspiring young students with young scholars to engage research in theoretical computer science, and embark on a journey to appreciate the charm of computational theory.

Accommodation (shared room) will be provided to undergraduates only.

Due to capacity, we prioritize undergraduates seeking to join NJU TCS group for PhD or for a research intern. To register, please fill out the following form: https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

If you are selected into our summer school, you will receive a confirmation email.

计算理论之美 (Summer 2026)

2026-07-22T04:29:27Z

Liumingmou:

{{Infobox
|name = Infobox
|headerstyle = background:#4D72BE;
|labelstyle = background:#DAE1F0;

|header1 = 计算理论之美
|label2 = {{Nowrap|负责人}}
|data2 = 黄棱潇 ([mailto:huanglingxiao@nju.edu.cn huanglingxiao@nju.edu.cn])
|label4 = 时间
|data4 = 2026.7.24 — 2026.7.27
|label5 = 地点
|data5 = {{Nowrap|南京大学苏州校区苏教楼D202}}
|belowstyle = background:#DAE1F0;
|below =
}}

由南京大学计算机学院和智能软件学院支持的第5届“计算理论之美”暑期讲习班将于2026年7月24日至7月27日在江苏省苏州市南京大学苏州校区开班。本次讲习班将围绕算法设计主题开展系列报告，包括组合最优化、哈希表、差分隐私、量子计算、关于图的数据流算法、图计算、分布式算法等板块，主要面向对理论计算机科学以及计算机科学中的数学感兴趣的国内外本科生，安排4天的高级课程。内容深入浅出，由国内外一线的优秀学者讲授，使学员初步了解理论计算机科学的一些研究前沿、初步掌握一些新理论与新方法，为有志于从事理论计算机科学研究的学者打下一定的基础，也让从事其他相关方向研究的学生与教师们领略计算理论的魅力。

联系邮箱：nju_tcs@163.com

联系人：
* 黄棱潇： huanglingxiao@nju.edu.cn
* 刘明谋： lmm@nju.edu.cn
* 班吟： 175227530@qq.com

注册报名流程：由于前几届报名人数过多，本届将会采用问卷初筛形式进行报名。请同学们先填写以下调查问卷:

https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

问卷报名截止日期： 2026.6.20

通过初筛的同学将于讲习班开始前两周收到包含报名链接的邮件。由于今年讲习班将在苏州校区举办，南京校区的南大同学如需统一安排住宿，也请填写问卷；无需安排住宿的南大同学，'''无需填写问卷或报名，可在讲习班期间直接前往会场听取报告。'''

费用：本科生包住宿，非本科生不包含住宿。餐费自理。

'''<big>对讲习班感兴趣的九月份入学南大新生，欢迎在志愿填报完成后报名参加（发送邮箱至： nju_tcs@163.com）</big>'''

== Tentative Schedule ==

Venue (地点)：南京大学苏州校区苏教楼D202
[[File:苏教楼D.png|thumb|苏教楼D在图中红星处]]
Accommodation：南京大学苏州校区国际学术交流中心 
Group photo: 7月24日上午茶歇环节中安排参会者合影留念

Speakers (in lexicographic order): 陈林（浙江大学）、丁尧相（浙江大学）、刘明谋（南京大学）、Pasin Manurangsi（Google Research）、任瀚林（IAS）、王启圣（上海交通大学）、王宇扬(中国科学技术大学）、俞华程（普林斯顿大学）、张天翼（南京大学）、郑朝栋（南京大学）

:{|border="2" width="97%" cellspacing="4" cellpadding="3" rules="all" style="margin:1em 1em 1em 0; border:solid 1px #AAAAAA; border-collapse:collapse; empty-cells:show;"

|-
|bgcolor="#4D72BE" align="center" style="width: 21%"|'''Time'''
|bgcolor="#4D72BE" align="center"|'''Title'''
|bgcolor="#4D72BE" align="center" style="width: 40%"|'''Speaker'''

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月24日 July, 24th'''

|-
|align="center"|8:30 — 12:00
|align="center"|图染色算法
|align="center"|张天翼（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|图流算法
|align="center"|俞华程（普林斯顿大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月25日 July, 25th'''

|-
|align="center"|8:30 — 12:00
|align="center"|现代哈希表设计
|align="center"|刘明谋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|Introduction to Quantum Computation
|align="center"|王启圣（上海交通大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月26日 July, 26th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Differential Privacy
|align="center"|Pasin Manurangsi（Google Research）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|加性组合与算法设计
|align="center"|陈林（浙江大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月27日 July, 27th'''

|-
|align="center"|8:30 — 12:00
|align="center"|分布式算法与单机算法的同与异
|align="center"|郑朝栋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 15:00
|align="center"|Neuro-symbolic visual understanding, generation, and decision-making: symbolic intermediate representation matters
|align="center"|丁尧相（浙江大学）

|-
|align="center" colspan="3"|15:00 — 15:10　休息

|-
|align="center"|15:10 — 16:10
|align="center"|Recent progress on near-maximum circuit lower bounds
|align="center"|任瀚林（Institute for Advanced Study）

|-
|align="center" colspan="3"|16:10 — 16:20　休息

|-
|align="center"|16:20 — 17:20
|align="center"|扩展图上生成树的局部计算算法
|align="center"|王宇扬（中国科学技术大学）

|-
|align="center" colspan="3"|17:20 — 17:30　交流

|}

== Take-home Exams ==
成绩优秀的同学可推荐参加南京大学计算机学院预推免保研面试，并在录取后可凭借此次暑期讲习班申请两个研究生学分。

作业提交方式：发送电子版到邮箱nju_tcs@163.com

== Getting to The Campus==
*入校：人员及车辆凭[https://tcs.nju.edu.cn/wiki/images/d/d3/%E8%AE%A1%E7%AE%97%E7%90%86%E8%AE%BA%E4%B9%8B%E7%BE%8E2026%E4%BC%9A%E8%AE%AE%E9%80%9A%E7%9F%A5.pdf 电子版会议通知]进校。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== Links to Past Summer Schools ==
* [[计算理论之美 (Summer 2025)|计算理论之美暑期学校 (Summer 2025)]]
* [[计算理论之美 (Summer 2024)|计算理论之美暑期学校 (Summer 2024)]]
* [[计算理论之美 (Summer 2023)|计算理论之美暑期学校 (Summer 2023)]]
* [[计算理论之美 (Summer 2021)|计算理论之美暑期学校 (Summer 2021)]]

== About Our Summer School ==
Our summer school is supported by the School of Computer Science and the School of Intelligent Software and Engineering at Nanjing University and will be held from July 24th to July 27th, 2026, at the Suzhou Campus of Nanjing University in Suzhou, Jiangsu Province, China. The theme of this year's summer school will be the design and analysis of algorithms, with topics ranging from combinatorial optimization, hash table design, differential privacy, quantum computing, streaming algorithms for graphs, graph algorithms, and distributed algorithms.
Target audience will include aspiring undergraduate and graduate students from China and overseas, and the program will feature 4 days of advanced courses. The courses will be presented by leading young scholars both from within China and overseas, covering both cutting-edge research and modern toolkits in theoretical computer science.
The summer school will help connect aspiring young students with young scholars to engage research in theoretical computer science, and embark on a journey to appreciate the charm of computational theory.

Accommodation (shared room) will be provided to undergraduates only.

Due to capacity, we prioritize undergraduates seeking to join NJU TCS group for PhD or for a research intern. To register, please fill out the following form: https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

If you are selected into our summer school, you will receive a confirmation email.

File:计算理论之美2026会议通知.pdf

2026-07-22T04:28:35Z

Liumingmou:

计算理论之美 (Summer 2026)

2026-07-18T10:37:53Z

Liumingmou: /* Getting to The Campus */

{{Infobox
|name = Infobox
|headerstyle = background:#4D72BE;
|labelstyle = background:#DAE1F0;

|header1 = 计算理论之美
|label2 = {{Nowrap|负责人}}
|data2 = 黄棱潇 ([mailto:huanglingxiao@nju.edu.cn huanglingxiao@nju.edu.cn])
|label4 = 时间
|data4 = 2026.7.24 — 2026.7.27
|label5 = 地点
|data5 = {{Nowrap|南京大学苏州校区苏教楼D202}}
|belowstyle = background:#DAE1F0;
|below =
}}

由南京大学计算机学院和智能软件学院支持的第5届“计算理论之美”暑期讲习班将于2026年7月24日至7月27日在江苏省苏州市南京大学苏州校区开班。本次讲习班将围绕算法设计主题开展系列报告，包括组合最优化、哈希表、差分隐私、量子计算、关于图的数据流算法、图计算、分布式算法等板块，主要面向对理论计算机科学以及计算机科学中的数学感兴趣的国内外本科生，安排4天的高级课程。内容深入浅出，由国内外一线的优秀学者讲授，使学员初步了解理论计算机科学的一些研究前沿、初步掌握一些新理论与新方法，为有志于从事理论计算机科学研究的学者打下一定的基础，也让从事其他相关方向研究的学生与教师们领略计算理论的魅力。

联系邮箱：nju_tcs@163.com

联系人：
* 黄棱潇： huanglingxiao@nju.edu.cn
* 刘明谋： lmm@nju.edu.cn
* 班吟： 175227530@qq.com

注册报名流程：由于前几届报名人数过多，本届将会采用问卷初筛形式进行报名。请同学们先填写以下调查问卷:

https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

问卷报名截止日期： 2026.6.20

通过初筛的同学将于讲习班开始前两周收到包含报名链接的邮件。由于今年讲习班将在苏州校区举办，南京校区的南大同学如需统一安排住宿，也请填写问卷；无需安排住宿的南大同学，'''无需填写问卷或报名，可在讲习班期间直接前往会场听取报告。'''

费用：本科生包住宿，非本科生不包含住宿。餐费自理。

'''<big>对讲习班感兴趣的九月份入学南大新生，欢迎在志愿填报完成后报名参加（发送邮箱至： nju_tcs@163.com）</big>'''

== Tentative Schedule ==

Venue (地点)：南京大学苏州校区苏教楼D202
[[File:苏教楼D.png|thumb|苏教楼D在图中红星处]]
Accommodation：南京大学苏州校区国际学术交流中心 
Group photo: 7月24日上午茶歇环节中安排参会者合影留念

Speakers (in lexicographic order): 陈林（浙江大学）、丁尧相（浙江大学）、刘明谋（南京大学）、Pasin Manurangsi（Google Research）、任瀚林（IAS）、王启圣（上海交通大学）、王宇扬(中国科学技术大学）、俞华程（普林斯顿大学）、张天翼（南京大学）、郑朝栋（南京大学）

:{|border="2" width="97%" cellspacing="4" cellpadding="3" rules="all" style="margin:1em 1em 1em 0; border:solid 1px #AAAAAA; border-collapse:collapse; empty-cells:show;"

|-
|bgcolor="#4D72BE" align="center" style="width: 21%"|'''Time'''
|bgcolor="#4D72BE" align="center"|'''Title'''
|bgcolor="#4D72BE" align="center" style="width: 40%"|'''Speaker'''

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月24日 July, 24th'''

|-
|align="center"|8:30 — 12:00
|align="center"|图染色算法
|align="center"|张天翼（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|图流算法
|align="center"|俞华程（普林斯顿大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月25日 July, 25th'''

|-
|align="center"|8:30 — 12:00
|align="center"|现代哈希表设计
|align="center"|刘明谋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|Introduction to Quantum Computation
|align="center"|王启圣（上海交通大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月26日 July, 26th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Differential Privacy
|align="center"|Pasin Manurangsi（Google Research）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|加性组合与算法设计
|align="center"|陈林（浙江大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月27日 July, 27th'''

|-
|align="center"|8:30 — 12:00
|align="center"|分布式算法与单机算法的同与异
|align="center"|郑朝栋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 15:00
|align="center"|Neuro-symbolic visual understanding, generation, and decision-making: symbolic intermediate representation matters
|align="center"|丁尧相（浙江大学）

|-
|align="center" colspan="3"|15:00 — 15:10　休息

|-
|align="center"|15:10 — 16:10
|align="center"|Recent progress on near-maximum circuit lower bounds
|align="center"|任瀚林（Institute for Advanced Study）

|-
|align="center" colspan="3"|16:10 — 16:20　休息

|-
|align="center"|16:20 — 17:20
|align="center"|扩展图上生成树的局部计算算法
|align="center"|王宇扬（中国科学技术大学）

|-
|align="center" colspan="3"|17:20 — 17:30　交流

|}

== Take-home Exams ==
成绩优秀的同学可推荐参加南京大学计算机学院预推免保研面试，并在录取后可凭借此次暑期讲习班申请两个研究生学分。

作业提交方式：发送电子版到邮箱nju_tcs@163.com

== Getting to The Campus==
*入校：人员及车辆凭电子版会议通知进校。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== Links to Past Summer Schools ==
* [[计算理论之美 (Summer 2025)|计算理论之美暑期学校 (Summer 2025)]]
* [[计算理论之美 (Summer 2024)|计算理论之美暑期学校 (Summer 2024)]]
* [[计算理论之美 (Summer 2023)|计算理论之美暑期学校 (Summer 2023)]]
* [[计算理论之美 (Summer 2021)|计算理论之美暑期学校 (Summer 2021)]]

== About Our Summer School ==
Our summer school is supported by the School of Computer Science and the School of Intelligent Software and Engineering at Nanjing University and will be held from July 24th to July 27th, 2026, at the Suzhou Campus of Nanjing University in Suzhou, Jiangsu Province, China. The theme of this year's summer school will be the design and analysis of algorithms, with topics ranging from combinatorial optimization, hash table design, differential privacy, quantum computing, streaming algorithms for graphs, graph algorithms, and distributed algorithms.
Target audience will include aspiring undergraduate and graduate students from China and overseas, and the program will feature 4 days of advanced courses. The courses will be presented by leading young scholars both from within China and overseas, covering both cutting-edge research and modern toolkits in theoretical computer science.
The summer school will help connect aspiring young students with young scholars to engage research in theoretical computer science, and embark on a journey to appreciate the charm of computational theory.

Accommodation (shared room) will be provided to undergraduates only.

Due to capacity, we prioritize undergraduates seeking to join NJU TCS group for PhD or for a research intern. To register, please fill out the following form: https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

If you are selected into our summer school, you will receive a confirmation email.

计算理论之美 (Summer 2026)

2026-07-12T21:48:53Z

Liumingmou: /* Tentative Schedule */

{{Infobox
|name = Infobox
|headerstyle = background:#4D72BE;
|labelstyle = background:#DAE1F0;

|header1 = 计算理论之美
|label2 = {{Nowrap|负责人}}
|data2 = 黄棱潇 ([mailto:huanglingxiao@nju.edu.cn huanglingxiao@nju.edu.cn])
|label4 = 时间
|data4 = 2026.7.24 — 2026.7.27
|label5 = 地点
|data5 = {{Nowrap|南京大学苏州校区苏教楼D202}}
|belowstyle = background:#DAE1F0;
|below =
}}

由南京大学计算机学院和智能软件学院支持的第5届“计算理论之美”暑期讲习班将于2026年7月24日至7月27日在江苏省苏州市南京大学苏州校区开班。本次讲习班将围绕算法设计主题开展系列报告，包括组合最优化、哈希表、差分隐私、量子计算、关于图的数据流算法、图计算、分布式算法等板块，主要面向对理论计算机科学以及计算机科学中的数学感兴趣的国内外本科生，安排4天的高级课程。内容深入浅出，由国内外一线的优秀学者讲授，使学员初步了解理论计算机科学的一些研究前沿、初步掌握一些新理论与新方法，为有志于从事理论计算机科学研究的学者打下一定的基础，也让从事其他相关方向研究的学生与教师们领略计算理论的魅力。

联系邮箱：nju_tcs@163.com

联系人：
* 黄棱潇： huanglingxiao@nju.edu.cn
* 刘明谋： lmm@nju.edu.cn
* 班吟： 175227530@qq.com

注册报名流程：由于前几届报名人数过多，本届将会采用问卷初筛形式进行报名。请同学们先填写以下调查问卷:

https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

问卷报名截止日期： 2026.6.20

通过初筛的同学将于讲习班开始前两周收到包含报名链接的邮件。由于今年讲习班将在苏州校区举办，南京校区的南大同学如需统一安排住宿，也请填写问卷；无需安排住宿的南大同学，'''无需填写问卷或报名，可在讲习班期间直接前往会场听取报告。'''

费用：本科生包住宿，非本科生不包含住宿。餐费自理。

'''<big>对讲习班感兴趣的九月份入学南大新生，欢迎在志愿填报完成后报名参加（发送邮箱至： nju_tcs@163.com）</big>'''

== Tentative Schedule ==

Venue (地点)：南京大学苏州校区苏教楼D202
[[File:苏教楼D.png|thumb|苏教楼D在图中红星处]]
Accommodation：南京大学苏州校区国际学术交流中心 
Group photo: 7月24日上午茶歇环节中安排参会者合影留念

Speakers (in lexicographic order): 陈林（浙江大学）、丁尧相（浙江大学）、刘明谋（南京大学）、Pasin Manurangsi（Google Research）、任瀚林（IAS）、王启圣（上海交通大学）、王宇扬(中国科学技术大学）、俞华程（普林斯顿大学）、张天翼（南京大学）、郑朝栋（南京大学）

:{|border="2" width="97%" cellspacing="4" cellpadding="3" rules="all" style="margin:1em 1em 1em 0; border:solid 1px #AAAAAA; border-collapse:collapse; empty-cells:show;"

|-
|bgcolor="#4D72BE" align="center" style="width: 21%"|'''Time'''
|bgcolor="#4D72BE" align="center"|'''Title'''
|bgcolor="#4D72BE" align="center" style="width: 40%"|'''Speaker'''

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月24日 July, 24th'''

|-
|align="center"|8:30 — 12:00
|align="center"|图染色算法
|align="center"|张天翼（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|图流算法
|align="center"|俞华程（普林斯顿大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月25日 July, 25th'''

|-
|align="center"|8:30 — 12:00
|align="center"|现代哈希表设计
|align="center"|刘明谋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|Introduction to Quantum Computation
|align="center"|王启圣（上海交通大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月26日 July, 26th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Differential Privacy
|align="center"|Pasin Manurangsi（Google Research）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|加性组合与算法设计
|align="center"|陈林（浙江大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月27日 July, 27th'''

|-
|align="center"|8:30 — 12:00
|align="center"|分布式算法与单机算法的同与异
|align="center"|郑朝栋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 15:00
|align="center"|Neuro-symbolic visual understanding, generation, and decision-making: symbolic intermediate representation matters
|align="center"|丁尧相（浙江大学）

|-
|align="center" colspan="3"|15:00 — 15:10　休息

|-
|align="center"|15:10 — 16:10
|align="center"|Recent progress on near-maximum circuit lower bounds
|align="center"|任瀚林（Institute for Advanced Study）

|-
|align="center" colspan="3"|16:10 — 16:20　休息

|-
|align="center"|16:20 — 17:20
|align="center"|扩展图上生成树的局部计算算法
|align="center"|王宇扬（中国科学技术大学）

|-
|align="center" colspan="3"|17:20 — 17:30　交流

|}

== Take-home Exams ==
成绩优秀的同学可推荐参加南京大学计算机学院预推免保研面试，并在录取后可凭借此次暑期讲习班申请两个研究生学分。

作业提交方式：发送电子版到邮箱nju_tcs@163.com

== Getting to The Campus==
*入校：[[Media:智软院访客预约流程.pdf|'''在公众号上登记入校。''']]
**关注微信公众号“南京大学信息门户”，点击门户首页左下角“i校园”-“访客通行”
**审核人单位：智能软件与工程学院。审核人姓名：石会
**如开车进校，请将车牌号填写到“随行车辆车牌”处。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== Links to Past Summer Schools ==
* [[计算理论之美 (Summer 2025)|计算理论之美暑期学校 (Summer 2025)]]
* [[计算理论之美 (Summer 2024)|计算理论之美暑期学校 (Summer 2024)]]
* [[计算理论之美 (Summer 2023)|计算理论之美暑期学校 (Summer 2023)]]
* [[计算理论之美 (Summer 2021)|计算理论之美暑期学校 (Summer 2021)]]

== About Our Summer School ==
Our summer school is supported by the School of Computer Science and the School of Intelligent Software and Engineering at Nanjing University and will be held from July 24th to July 27th, 2026, at the Suzhou Campus of Nanjing University in Suzhou, Jiangsu Province, China. The theme of this year's summer school will be the design and analysis of algorithms, with topics ranging from combinatorial optimization, hash table design, differential privacy, quantum computing, streaming algorithms for graphs, graph algorithms, and distributed algorithms.
Target audience will include aspiring undergraduate and graduate students from China and overseas, and the program will feature 4 days of advanced courses. The courses will be presented by leading young scholars both from within China and overseas, covering both cutting-edge research and modern toolkits in theoretical computer science.
The summer school will help connect aspiring young students with young scholars to engage research in theoretical computer science, and embark on a journey to appreciate the charm of computational theory.

Accommodation (shared room) will be provided to undergraduates only.

Due to capacity, we prioritize undergraduates seeking to join NJU TCS group for PhD or for a research intern. To register, please fill out the following form: https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

If you are selected into our summer school, you will receive a confirmation email.

计算理论之美 (Summer 2026)

2026-07-10T20:29:33Z

Liumingmou: /* Tentative Schedule */

{{Infobox
|name = Infobox
|headerstyle = background:#4D72BE;
|labelstyle = background:#DAE1F0;

|header1 = 计算理论之美
|label2 = {{Nowrap|负责人}}
|data2 = 黄棱潇 ([mailto:huanglingxiao@nju.edu.cn huanglingxiao@nju.edu.cn])
|label4 = 时间
|data4 = 2026.7.24 — 2026.7.27
|label5 = 地点
|data5 = {{Nowrap|南京大学苏州校区苏教楼D202}}
|belowstyle = background:#DAE1F0;
|below =
}}

由南京大学计算机学院和智能软件学院支持的第5届“计算理论之美”暑期讲习班将于2026年7月24日至7月27日在江苏省苏州市南京大学苏州校区开班。本次讲习班将围绕算法设计主题开展系列报告，包括组合最优化、哈希表、差分隐私、量子计算、关于图的数据流算法、图计算、分布式算法等板块，主要面向对理论计算机科学以及计算机科学中的数学感兴趣的国内外本科生，安排4天的高级课程。内容深入浅出，由国内外一线的优秀学者讲授，使学员初步了解理论计算机科学的一些研究前沿、初步掌握一些新理论与新方法，为有志于从事理论计算机科学研究的学者打下一定的基础，也让从事其他相关方向研究的学生与教师们领略计算理论的魅力。

联系邮箱：nju_tcs@163.com

联系人：
* 黄棱潇： huanglingxiao@nju.edu.cn
* 刘明谋： lmm@nju.edu.cn
* 班吟： 175227530@qq.com

注册报名流程：由于前几届报名人数过多，本届将会采用问卷初筛形式进行报名。请同学们先填写以下调查问卷:

https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

问卷报名截止日期： 2026.6.20

通过初筛的同学将于讲习班开始前两周收到包含报名链接的邮件。由于今年讲习班将在苏州校区举办，南京校区的南大同学如需统一安排住宿，也请填写问卷；无需安排住宿的南大同学，'''无需填写问卷或报名，可在讲习班期间直接前往会场听取报告。'''

费用：本科生包住宿，非本科生不包含住宿。餐费自理。

'''<big>对讲习班感兴趣的九月份入学南大新生，欢迎在志愿填报完成后报名参加（发送邮箱至： nju_tcs@163.com）</big>'''

== Tentative Schedule ==

Venue (地点)：南京大学苏州校区苏教楼D202
[[File:苏教楼D.png|thumb|苏教楼D在图中红星处]]
Accommodation：南京大学苏州校区国际学术交流中心 
Group photo: 7月24日上午茶歇环节中安排参会者合影留念

Speakers (in lexicographic order): 陈林（浙江大学）、丁尧相（浙江大学）、刘明谋（南京大学）、Pasin Manurangsi（Google Research）、任瀚林（IAS）、王启圣（上海交通大学）、王宇扬(中国科学技术大学）、俞华程（普林斯顿大学）、张天翼（南京大学）、郑朝栋（南京大学）

:{|border="2" width="97%" cellspacing="4" cellpadding="3" rules="all" style="margin:1em 1em 1em 0; border:solid 1px #AAAAAA; border-collapse:collapse; empty-cells:show;"

|-
|bgcolor="#4D72BE" align="center" style="width: 21%"|'''Time'''
|bgcolor="#4D72BE" align="center"|'''Title'''
|bgcolor="#4D72BE" align="center" style="width: 40%"|'''Speaker'''

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月24日 July, 24th'''

|-
|align="center"|8:30 — 12:00
|align="center"|图染色算法
|align="center"|张天翼（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|图流算法
|align="center"|俞华程（普林斯顿大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月25日 July, 25th'''

|-
|align="center"|8:30 — 12:00
|align="center"|现代哈希表设计
|align="center"|刘明谋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|Introduction to Quantum Computation
|align="center"|王启圣（上海交通大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月26日 July, 26th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Differential Privacy
|align="center"|Pasin Manurangsi（Google Research）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|加性组合与算法设计
|align="center"|陈林（浙江大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月27日 July, 27th'''

|-
|align="center"|8:30 — 12:00
|align="center"|分布式算法与单机算法的同与异
|align="center"|郑朝栋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 15:00
|align="center"|(题目待定）
|align="center"|丁尧相（浙江大学）

|-
|align="center" colspan="3"|15:00 — 15:10　休息

|-
|align="center"|15:10 — 16:10
|align="center"|Recent progress on near-maximum circuit lower bounds
|align="center"|任瀚林（Institute for Advanced Study）

|-
|align="center" colspan="3"|16:10 — 16:20　休息

|-
|align="center"|16:20 — 17:20
|align="center"|扩展图上生成树的局部计算算法
|align="center"|王宇扬（中国科学技术大学）

|-
|align="center" colspan="3"|17:20 — 17:30　交流

|}

== Take-home Exams ==
成绩优秀的同学可推荐参加南京大学计算机学院预推免保研面试，并在录取后可凭借此次暑期讲习班申请两个研究生学分。

作业提交方式：发送电子版到邮箱nju_tcs@163.com

== Getting to The Campus==
*入校：[[Media:智软院访客预约流程.pdf|'''在公众号上登记入校。''']]
**关注微信公众号“南京大学信息门户”，点击门户首页左下角“i校园”-“访客通行”
**审核人单位：智能软件与工程学院。审核人姓名：石会
**如开车进校，请将车牌号填写到“随行车辆车牌”处。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== Links to Past Summer Schools ==
* [[计算理论之美 (Summer 2025)|计算理论之美暑期学校 (Summer 2025)]]
* [[计算理论之美 (Summer 2024)|计算理论之美暑期学校 (Summer 2024)]]
* [[计算理论之美 (Summer 2023)|计算理论之美暑期学校 (Summer 2023)]]
* [[计算理论之美 (Summer 2021)|计算理论之美暑期学校 (Summer 2021)]]

== About Our Summer School ==
Our summer school is supported by the School of Computer Science and the School of Intelligent Software and Engineering at Nanjing University and will be held from July 24th to July 27th, 2026, at the Suzhou Campus of Nanjing University in Suzhou, Jiangsu Province, China. The theme of this year's summer school will be the design and analysis of algorithms, with topics ranging from combinatorial optimization, hash table design, differential privacy, quantum computing, streaming algorithms for graphs, graph algorithms, and distributed algorithms.
Target audience will include aspiring undergraduate and graduate students from China and overseas, and the program will feature 4 days of advanced courses. The courses will be presented by leading young scholars both from within China and overseas, covering both cutting-edge research and modern toolkits in theoretical computer science.
The summer school will help connect aspiring young students with young scholars to engage research in theoretical computer science, and embark on a journey to appreciate the charm of computational theory.

Accommodation (shared room) will be provided to undergraduates only.

Due to capacity, we prioritize undergraduates seeking to join NJU TCS group for PhD or for a research intern. To register, please fill out the following form: https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

If you are selected into our summer school, you will receive a confirmation email.

计算理论之美 (Summer 2026)

2026-07-10T20:27:41Z

Liumingmou: /* Tentative Schedule */

{{Infobox
|name = Infobox
|headerstyle = background:#4D72BE;
|labelstyle = background:#DAE1F0;

|header1 = 计算理论之美
|label2 = {{Nowrap|负责人}}
|data2 = 黄棱潇 ([mailto:huanglingxiao@nju.edu.cn huanglingxiao@nju.edu.cn])
|label4 = 时间
|data4 = 2026.7.24 — 2026.7.27
|label5 = 地点
|data5 = {{Nowrap|南京大学苏州校区苏教楼D202}}
|belowstyle = background:#DAE1F0;
|below =
}}

由南京大学计算机学院和智能软件学院支持的第5届“计算理论之美”暑期讲习班将于2026年7月24日至7月27日在江苏省苏州市南京大学苏州校区开班。本次讲习班将围绕算法设计主题开展系列报告，包括组合最优化、哈希表、差分隐私、量子计算、关于图的数据流算法、图计算、分布式算法等板块，主要面向对理论计算机科学以及计算机科学中的数学感兴趣的国内外本科生，安排4天的高级课程。内容深入浅出，由国内外一线的优秀学者讲授，使学员初步了解理论计算机科学的一些研究前沿、初步掌握一些新理论与新方法，为有志于从事理论计算机科学研究的学者打下一定的基础，也让从事其他相关方向研究的学生与教师们领略计算理论的魅力。

联系邮箱：nju_tcs@163.com

联系人：
* 黄棱潇： huanglingxiao@nju.edu.cn
* 刘明谋： lmm@nju.edu.cn
* 班吟： 175227530@qq.com

注册报名流程：由于前几届报名人数过多，本届将会采用问卷初筛形式进行报名。请同学们先填写以下调查问卷:

https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

问卷报名截止日期： 2026.6.20

通过初筛的同学将于讲习班开始前两周收到包含报名链接的邮件。由于今年讲习班将在苏州校区举办，南京校区的南大同学如需统一安排住宿，也请填写问卷；无需安排住宿的南大同学，'''无需填写问卷或报名，可在讲习班期间直接前往会场听取报告。'''

费用：本科生包住宿，非本科生不包含住宿。餐费自理。

'''<big>对讲习班感兴趣的九月份入学南大新生，欢迎在志愿填报完成后报名参加（发送邮箱至： nju_tcs@163.com）</big>'''

== Tentative Schedule ==

Venue (地点)：南京大学苏州校区苏教楼D202
[[File:苏教楼D.png|thumb|苏教楼D在图中红星处]]
Group photo: 7月24日上午茶歇环节中安排参会者合影留念

Speakers (in lexicographic order): 陈林（浙江大学）、丁尧相（浙江大学）、刘明谋（南京大学）、Pasin Manurangsi（Google Research）、任瀚林（IAS）、王启圣（上海交通大学）、王宇扬(中国科学技术大学）、俞华程（普林斯顿大学）、张天翼（南京大学）、郑朝栋（南京大学）

:{|border="2" width="97%" cellspacing="4" cellpadding="3" rules="all" style="margin:1em 1em 1em 0; border:solid 1px #AAAAAA; border-collapse:collapse; empty-cells:show;"

|-
|bgcolor="#4D72BE" align="center" style="width: 21%"|'''Time'''
|bgcolor="#4D72BE" align="center"|'''Title'''
|bgcolor="#4D72BE" align="center" style="width: 40%"|'''Speaker'''

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月24日 July, 24th'''

|-
|align="center"|8:30 — 12:00
|align="center"|图染色算法
|align="center"|张天翼（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|图流算法
|align="center"|俞华程（普林斯顿大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月25日 July, 25th'''

|-
|align="center"|8:30 — 12:00
|align="center"|现代哈希表设计
|align="center"|刘明谋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|Introduction to Quantum Computation
|align="center"|王启圣（上海交通大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月26日 July, 26th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Differential Privacy
|align="center"|Pasin Manurangsi（Google Research）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|加性组合与算法设计
|align="center"|陈林（浙江大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月27日 July, 27th'''

|-
|align="center"|8:30 — 12:00
|align="center"|分布式算法与单机算法的同与异
|align="center"|郑朝栋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 15:00
|align="center"|(题目待定）
|align="center"|丁尧相（浙江大学）

|-
|align="center" colspan="3"|15:00 — 15:10　休息

|-
|align="center"|15:10 — 16:10
|align="center"|Recent progress on near-maximum circuit lower bounds
|align="center"|任瀚林（Institute for Advanced Study）

|-
|align="center" colspan="3"|16:10 — 16:20　休息

|-
|align="center"|16:20 — 17:20
|align="center"|扩展图上生成树的局部计算算法
|align="center"|王宇扬（中国科学技术大学）

|-
|align="center" colspan="3"|17:20 — 17:30　交流

|}

== Take-home Exams ==
成绩优秀的同学可推荐参加南京大学计算机学院预推免保研面试，并在录取后可凭借此次暑期讲习班申请两个研究生学分。

作业提交方式：发送电子版到邮箱nju_tcs@163.com

== Getting to The Campus==
*入校：[[Media:智软院访客预约流程.pdf|'''在公众号上登记入校。''']]
**关注微信公众号“南京大学信息门户”，点击门户首页左下角“i校园”-“访客通行”
**审核人单位：智能软件与工程学院。审核人姓名：石会
**如开车进校，请将车牌号填写到“随行车辆车牌”处。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== Links to Past Summer Schools ==
* [[计算理论之美 (Summer 2025)|计算理论之美暑期学校 (Summer 2025)]]
* [[计算理论之美 (Summer 2024)|计算理论之美暑期学校 (Summer 2024)]]
* [[计算理论之美 (Summer 2023)|计算理论之美暑期学校 (Summer 2023)]]
* [[计算理论之美 (Summer 2021)|计算理论之美暑期学校 (Summer 2021)]]

== About Our Summer School ==
Our summer school is supported by the School of Computer Science and the School of Intelligent Software and Engineering at Nanjing University and will be held from July 24th to July 27th, 2026, at the Suzhou Campus of Nanjing University in Suzhou, Jiangsu Province, China. The theme of this year's summer school will be the design and analysis of algorithms, with topics ranging from combinatorial optimization, hash table design, differential privacy, quantum computing, streaming algorithms for graphs, graph algorithms, and distributed algorithms.
Target audience will include aspiring undergraduate and graduate students from China and overseas, and the program will feature 4 days of advanced courses. The courses will be presented by leading young scholars both from within China and overseas, covering both cutting-edge research and modern toolkits in theoretical computer science.
The summer school will help connect aspiring young students with young scholars to engage research in theoretical computer science, and embark on a journey to appreciate the charm of computational theory.

Accommodation (shared room) will be provided to undergraduates only.

Due to capacity, we prioritize undergraduates seeking to join NJU TCS group for PhD or for a research intern. To register, please fill out the following form: https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

If you are selected into our summer school, you will receive a confirmation email.

计算理论之美 (Summer 2026)

2026-07-10T20:26:47Z

Liumingmou:

{{Infobox
|name = Infobox
|headerstyle = background:#4D72BE;
|labelstyle = background:#DAE1F0;

|header1 = 计算理论之美
|label2 = {{Nowrap|负责人}}
|data2 = 黄棱潇 ([mailto:huanglingxiao@nju.edu.cn huanglingxiao@nju.edu.cn])
|label4 = 时间
|data4 = 2026.7.24 — 2026.7.27
|label5 = 地点
|data5 = {{Nowrap|南京大学苏州校区苏教楼D202}}
|belowstyle = background:#DAE1F0;
|below =
}}

由南京大学计算机学院和智能软件学院支持的第5届“计算理论之美”暑期讲习班将于2026年7月24日至7月27日在江苏省苏州市南京大学苏州校区开班。本次讲习班将围绕算法设计主题开展系列报告，包括组合最优化、哈希表、差分隐私、量子计算、关于图的数据流算法、图计算、分布式算法等板块，主要面向对理论计算机科学以及计算机科学中的数学感兴趣的国内外本科生，安排4天的高级课程。内容深入浅出，由国内外一线的优秀学者讲授，使学员初步了解理论计算机科学的一些研究前沿、初步掌握一些新理论与新方法，为有志于从事理论计算机科学研究的学者打下一定的基础，也让从事其他相关方向研究的学生与教师们领略计算理论的魅力。

联系邮箱：nju_tcs@163.com

联系人：
* 黄棱潇： huanglingxiao@nju.edu.cn
* 刘明谋： lmm@nju.edu.cn
* 班吟： 175227530@qq.com

注册报名流程：由于前几届报名人数过多，本届将会采用问卷初筛形式进行报名。请同学们先填写以下调查问卷:

https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

问卷报名截止日期： 2026.6.20

通过初筛的同学将于讲习班开始前两周收到包含报名链接的邮件。由于今年讲习班将在苏州校区举办，南京校区的南大同学如需统一安排住宿，也请填写问卷；无需安排住宿的南大同学，'''无需填写问卷或报名，可在讲习班期间直接前往会场听取报告。'''

费用：本科生包住宿，非本科生不包含住宿。餐费自理。

'''<big>对讲习班感兴趣的九月份入学南大新生，欢迎在志愿填报完成后报名参加（发送邮箱至： nju_tcs@163.com）</big>'''

== Tentative Schedule ==

Venue (地点)：南京大学苏州校区苏教楼D202
[[File:苏教楼D.png|thumb|苏教楼D在图中红星处]]
Group photo: 7月24日上午茶歇环节中安排参会者合影留念

Speakers (in lexicographic order): 陈林（浙江大学）、丁尧相（浙江大学）、刘明谋（南京大学）、Pasin Manurangsi（Google Research）、任瀚林（IAS）、王启圣（上海交通大学）、王宇扬(中国科学技术大学）、俞华程（普林斯顿大学）、张天翼（南京大学）、郑朝栋（南京大学）

:{|border="2" width="97%" cellspacing="4" cellpadding="3" rules="all" style="margin:1em 1em 1em 0; border:solid 1px #AAAAAA; border-collapse:collapse; empty-cells:show;"

|-
|bgcolor="#4D72BE" align="center" style="width: 21%"|'''Time'''
|bgcolor="#4D72BE" align="center"|'''Title'''
|bgcolor="#4D72BE" align="center" style="width: 40%"|'''Speaker'''

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月24日 July, 24th'''

|-
|align="center"|8:30 — 8:40
|align="center"|领导致辞
|align="center"|

|-
|align="center"|8:40 — 12:00
|align="center"|图染色算法
|align="center"|张天翼（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|图流算法
|align="center"|俞华程（普林斯顿大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月25日 July, 25th'''

|-
|align="center"|8:30 — 12:00
|align="center"|现代哈希表设计
|align="center"|刘明谋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|Introduction to Quantum Computation
|align="center"|王启圣（上海交通大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月26日 July, 26th'''

|-
|align="center"|8:30 — 12:00
|align="center"|Introduction to Differential Privacy
|align="center"|Pasin Manurangsi（Google Research）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 17:30
|align="center"|加性组合与算法设计
|align="center"|陈林（浙江大学）

|-
|bgcolor="#DAE1F0" align="center" colspan="3"|'''7月27日 July, 27th'''

|-
|align="center"|8:30 — 12:00
|align="center"|分布式算法与单机算法的同与异
|align="center"|郑朝栋（南京大学）

|-
|align="center" colspan="3"|12:00 — 14:00　午休

|-
|align="center"|14:00 — 15:00
|align="center"|(题目待定）
|align="center"|丁尧相（浙江大学）

|-
|align="center" colspan="3"|15:00 — 15:10　休息

|-
|align="center"|15:10 — 16:10
|align="center"|Recent progress on near-maximum circuit lower bounds
|align="center"|任瀚林（Institute for Advanced Study）

|-
|align="center" colspan="3"|16:10 — 16:20　休息

|-
|align="center"|16:20 — 17:20
|align="center"|扩展图上生成树的局部计算算法
|align="center"|王宇扬（中国科学技术大学）

|-
|align="center" colspan="3"|17:20 — 17:30　交流

|}

== Take-home Exams ==
成绩优秀的同学可推荐参加南京大学计算机学院预推免保研面试，并在录取后可凭借此次暑期讲习班申请两个研究生学分。

作业提交方式：发送电子版到邮箱nju_tcs@163.com

== Getting to The Campus==
*入校：[[Media:智软院访客预约流程.pdf|'''在公众号上登记入校。''']]
**关注微信公众号“南京大学信息门户”，点击门户首页左下角“i校园”-“访客通行”
**审核人单位：智能软件与工程学院。审核人姓名：石会
**如开车进校，请将车牌号填写到“随行车辆车牌”处。
*高铁 / 动车
**苏州站：打车至校区约 30 分钟（非早晚高峰情况下），费用约 ¥30。亦可选择快线 3 号或地铁转有轨电车，全程约 2 小时。
**苏州新区站：打车至校区约 25 分钟，费用约 ¥25。也可乘坐有轨电车 2 号线，约 1 小时。
*飞机
**无锡硕放机场（WUX）：打车至校区约 30 分钟；因跨城行驶，司机可能会收取返程/空驶费用，总费用约 ¥80。如果能打到顺风车的话会较为便宜。亦可选公共交通，约 2 小时。
**上海虹桥机场（SHA）：建议从虹桥火车站换乘高铁至苏州站或苏州新区站。务必留意，由上海虹桥站前往苏州的高铁末班车时间通常是21:42。不建议从虹桥直接打车至苏州（费用较高）；同时不建议打顺风车，因为通常只能打到黑出租。

== Lunch & Supper ==
[[File:苏州校区食堂（2025）.png|thumb|苏州校区的四个食堂在图中红星处]]
* 苏州校区内现有科创大厦食堂、第16、17、18食堂共四个食堂，素菜2-3元、荤菜4-8元，可直接用支付宝或微信支付。此外，国际学术交流中心也提供更为昂贵的食物。
* 学校附近有：东渚镇、文体中心、丰茂里、时尚水岸星悦荟、星悦里等几个商业区。
* 也可以选择外卖，会送至校门口的外卖柜或外卖架上。

== Getting Around ==
* 大阳山国家森林公园 & 植物园：层林步道＋寺庙人文，爬 60–90 分钟视体力安排；秋冬晴天观景佳。
* 树山生态村：乡野步道、茶园与农家菜，团队晚餐/走读首选。
* 太湖湿地/西山方向：自驾更便捷，观湿地与湖景线。
* 古城园林：傍晚可打车去平江路/山塘街逛夜景，或白天参观苏州博物馆/拙政园。

== About Suzhou Campus ==
南京大学苏州校区位于苏州高新区太湖科技城，地处“环太湖科创圈”与“沿沪宁产业创新带”的黄金交汇点，被定位为南大发展壮大新工科的主阵地。立足“国家战略、世界一流、强强联合、需需结合”，南大苏州校区聚焦人工智能、新一代信息技术、新能源、先进制造、生命健康等领域“卡脖子”问题，强化“新工科”建设，促进文理工医交叉融合，政产学研协调发展。

== Links to Past Summer Schools ==
* [[计算理论之美 (Summer 2025)|计算理论之美暑期学校 (Summer 2025)]]
* [[计算理论之美 (Summer 2024)|计算理论之美暑期学校 (Summer 2024)]]
* [[计算理论之美 (Summer 2023)|计算理论之美暑期学校 (Summer 2023)]]
* [[计算理论之美 (Summer 2021)|计算理论之美暑期学校 (Summer 2021)]]

== About Our Summer School ==
Our summer school is supported by the School of Computer Science and the School of Intelligent Software and Engineering at Nanjing University and will be held from July 24th to July 27th, 2026, at the Suzhou Campus of Nanjing University in Suzhou, Jiangsu Province, China. The theme of this year's summer school will be the design and analysis of algorithms, with topics ranging from combinatorial optimization, hash table design, differential privacy, quantum computing, streaming algorithms for graphs, graph algorithms, and distributed algorithms.
Target audience will include aspiring undergraduate and graduate students from China and overseas, and the program will feature 4 days of advanced courses. The courses will be presented by leading young scholars both from within China and overseas, covering both cutting-edge research and modern toolkits in theoretical computer science.
The summer school will help connect aspiring young students with young scholars to engage research in theoretical computer science, and embark on a journey to appreciate the charm of computational theory.

Accommodation (shared room) will be provided to undergraduates only.

Due to capacity, we prioritize undergraduates seeking to join NJU TCS group for PhD or for a research intern. To register, please fill out the following form: https://table.nju.edu.cn/external-apps/9ea2fbd7-8ac8-45dd-b5bf-fbdb887989be/?page_id=9UIB

If you are selected into our summer school, you will receive a confirmation email.

计算理论之美 (Summer 2026)

2026-06-23T15:36:24Z

Liumingmou:

计算理论之美 (Summer 2026)

2026-06-21T13:29:26Z

Liumingmou: /* Tentative Schedule */

高级算法 (Spring 2026)/作业3

2026-06-21T13:02:30Z

Liumingmou: /* Set Cover 的线性规划松弛与随机取整 */

小题均为提示性质，小题越多越简单。

== 低 <math>\ell_\infty</math>-norm 对高斯 JL 变换没有帮助==

令 <math>\Pi \in \mathbb R^{m\times d}</math> 是一个高斯 Johnson-Lindenstrauss 变换，其中每个元素独立服从 <math>N(0,1/m)</math>。给定任意固定单位向量 <math>x\in\mathbb S^{d-1}</math>。

#证明 <math>\Pi x</math> 的每个坐标都独立服从 <math>N(0,1/m)</math>。
#证明 <math>\|\Pi x\|_2^2</math> 与 <math>\frac{1}{m}\chi_m^2</math> 同分布。因此 <math>\|\Pi x\|_2</math> 的分布与 <math>\|x\|_\infty</math> 无关。
#解释为什么如果使用高斯 JL 变换，即使 <math>x</math> 满足很强的平坦性条件，例如 <math>\|x\|_\infty \le O(1/\sqrt d)</math>，为了保证 <math>\mathbb P[\|\Pi x\|_2^2-1|>\epsilon]\le \delta</math>，所需的目标维数仍然是 <math>m=\Theta(\epsilon^{-2}\log(1/\delta))</math>。
#对比坐标采样型（即 <math>\Pi x</math>直接随机输出 <math>x</math>的某几个维度）降维，简要解释为什么低 <math>\ell_\infty</math>-norm 对坐标采样有帮助，但对高斯 JL 变换没有帮助。

==torus 上的随机网格 LSH==

考虑 metric space <math>( [0,n]^d,d_{\mathrm{torus}} )</math>，其中距离定义为 <math>d_{\mathrm{torus}}(x,y)=\sqrt{\sum_{i=1}^d \min{|x_i-y_i|,n-|x_i-y_i|}^2}</math>。给定网格宽度 <math>w>0</math>。随机选择平移向量 <math>s\in[0,w)^d</math>，并定义 hash function <math>h_s(x)=(\lfloor (x_1+s_1)/w\rfloor,\dots,\lfloor (x_d+s_d)/w\rfloor)</math>，其中每个坐标都按照 torus 的方式取模。

#对于两个点 <math>x,y\in[0,n]^d</math>，记 <math>\Delta_i=\min\{|x_i-y_i|,n-|x_i-y_i|\}</math>。证明如果对所有 <math>i</math> 都有 <math>\Delta_i<w</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]=\prod_{i=1}^d (1-\Delta_i/w)</math>。
#证明如果 <math>d_{\mathrm{torus}}(x,y)\le r</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]\ge 1-\sqrt d,r/w</math>。提示：可以使用 <math>\sum_i\Delta_i\le \sqrt d\sqrt{\sum_i\Delta_i^2}</math>。
#解释为什么这个 LSH family 的随机桶可以看成随机平移后的 axis-aligned cube。请从“近点容易落在同一个随机集合中，远点不容易落在同一个随机集合中”的角度解释这个构造的直觉。
#讨论这个构造在高维空间中的局限性。特别地，当距离 <math>d_{\mathrm{torus}}(x,y)</math> 分散在很多个坐标上时，为什么随机网格更容易把 <math>x</math> 和 <math>y</math> 切开？
#设 <math>x,y</math> 只在一个坐标上相差 <math>r</math>，其他坐标完全相同。计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>。
#设 <math>x,y</math> 在每个坐标上都相差 <math>r/\sqrt d</math>，因此 <math>d_{\mathrm{torus}}(x,y)=r</math>。在 <math>r/\sqrt d<w</math> 的条件下，计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>，并将其写成 <math>(1-r/(w\sqrt d))^d</math> 的形式。
#比较上述两种情况。说明即使两对点的 torus 距离都等于 <math>r</math>，随机网格 LSH 的碰撞概率仍然可能不同。
#解释这说明了什么：axis-aligned grid LSH 并不是只依赖于欧氏距离的完美 LSH family，而是会受到坐标方向和维数的影响。

==球面上的随机超平面 LSH==

考虑球面空间 <math>(\mathbb S^{d-1},d)</math>，其中距离定义为 <math>d(x,y)=\arccos\langle x,y\rangle</math>。随机选择 <math>g\sim N(0,I_d)</math>，并定义 hash function <math>h_g(x)=\operatorname{sign}\langle g,x\rangle</math>。

#对任意 <math>x,y\in\mathbb S^{d-1}</math>，令 <math>\theta=\arccos\langle x,y\rangle</math>。证明 <math>\mathbb P[h_g(x)=h_g(y)]=1-\theta/\pi</math>。
#解释上述公式的几何直觉：随机超平面什么时候会把 <math>x</math> 和 <math>y</math> 分到两侧？
#现在使用 <math>k</math> 个独立随机超平面 <math>g_1,\dots,g_k</math>，并定义组合 hash key 为 <math>H(x)=(h_{g_1}(x),\dots,h_{g_k}(x))</math>。证明 <math>\mathbb P[H(x)=H(y)]=(1-\theta/\pi)^k</math>。
#给定两个角度阈值 <math>0<\theta_1<\theta_2<\pi</math>。令近点满足 <math>d(x,y)\le \theta_1</math>，远点满足 <math>d(x,y)\ge \theta_2</math>。写出这个 LSH family 的参数 <math>p_1</math> 和 <math>p_2</math>，并推导标准 LSH exponent <math>\rho=\log(1/p_1)/\log(1/p_2)</math>。

==由范数保持推出内积保持==

设线性映射 <math>\Pi</math> 对向量集合 <math>{x,y,x+y,x-y}</math> 都保持平方范数，即对所有 <math>v\in{x,y,x+y,x-y}</math> 都有 <math>(1-\epsilon)\|v\|_2^2\le \|\Pi v\|_2^2\le (1+\epsilon)\|v\|_2^2</math>。

#使用恒等式 <math>\langle x,y\rangle=(\|x+y\|_2^2-\|x-y\|_2^2)/4</math>，证明 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)(\|x\|_2^2+\|y\|_2^2)</math>。
# 在 <math>\|x\|_2=\|y\|_2=1</math> 的情况下，将上式化简为 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
# 解释为什么如果 JL 变换对 <math>n</math> 个点的所有两两距离都近似保持，那么这些点的两两内积也近似保持。
# 进一步讨论：如果这些点都在单位球面上，那么 JL 降维之后，球面角度 <math>\arccos\langle x,y\rangle</math> 在什么意义下也被近似保持？

==从阈值版 Approximate Near Neighbor 到 Approximate Nearest Neighbor==

假设你有一个阈值版 Approximate Near Neighbor 黑盒。给定半径 <math>r</math> 和查询点 <math>q</math>，如果数据集 <math>P</math> 中存在点 <math>p</math> 满足 <math>|p-q|\le r</math>，那么黑盒会返回某个点 <math>p'</math>，并保证 <math>|p'-q|\le a r</math>。

现在希望用这个黑盒解决普通 Approximate Nearest Neighbor 问题。设真正最近邻距离为 <math>d^\star=\min_{p\in P}|p-q|</math>。我们建立一组半径 <math>r_0,r_1,r_2,\dots</math>，满足 <math>r_{i+1}=b r_i</math>。查询时，从小到大尝试这些半径，并返回第一个成功的黑盒查询结果。

#证明最终得到的近似比至多为 <math>ab</math>。
#如果希望最终得到 <math>c</math>-approximate nearest neighbor，应该如何选择 <math>a</math> 和 <math>b</math>？
#解释为什么常见做法中，会把阈值版 ANN 黑盒的 approximate ratio 从 <math>c</math> 设置为 <math>\sqrt c</math>。
#如果最近邻距离的可能范围被限制在 <math>[1,\Delta]</math> 中，分析需要建立多少个半径层级。

==先用 JL 降维，再做随机超平面 LSH==

设 <math>P\subseteq\mathbb S^{d-1}</math> 是 <math>n</math> 个单位向量。令 <math>\Pi:\mathbb R^d\to\mathbb R^m</math> 是一个 JL transform，并假设对所有 <math>x,y\in P</math>，都有 <math>\left|\|\Pi x-\Pi y\|_2^2-\|x-y\|_2^2\right|\le \epsilon</math>。同时假设对所有 <math>x\in P</math>，都有 <math>\left|\|\Pi x\|_2^2-1\right|\le \epsilon</math>。

#证明对所有 <math>x,y\in P</math>，都有 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
#令 <math>\theta=\arccos\langle x,y\rangle</math>，并令 <math>\widetilde\theta=\arccos(\langle \Pi x,\Pi y\rangle/(\|\Pi x\|_2\|\Pi y\|_2))</math>。在 <math>\theta</math> 不太接近 <math>0</math> 或 <math>\pi</math> 的情况下，给出 <math>|\theta-\widetilde\theta|</math> 的上界。
#解释为什么可以先对数据集 <math>P</math> 做 JL 降维，再在低维空间中使用随机超平面 LSH。
#讨论当两个点的夹角非常小时，为什么需要更小的 JL 误差才能保证角度的相对误差较好。

==为什么 CountSketch 需要随机符号==

考虑一个没有随机符号的 CountSketch。对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并令 <math>\Pi_{h(i),i}=1</math>，其他位置为 <math>0</math>。
取向量 <math>x=(1,1,\dots,1)/\sqrt n</math>。

#证明 <math>\mathbb E\|\Pi x\|_2^2=1+(n-1)/m</math>。
#说明如果 <math>m=o(n)</math>，那么这个没有随机符号的 sketch 对该向量的范数估计会有严重偏差。
#现在考虑标准 CountSketch：对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>，令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。解释随机符号 <math>\sigma_i</math> 如何使不同坐标碰撞产生的交叉项在期望中相互抵消。
#总结随机符号在 CountSketch 中的作用：它并不能避免碰撞，但可以让碰撞带来的误差成为均值为零的随机噪声。

==CountSketch OSE 的 <math>m=\Omega(d^2)</math> 下界==

假设 <math>n\gg d</math>（不妨假设 <math>n>2^d</math>）。考虑使用一个 column sparsity 只有 <math>1</math> （即，每一列只有一个非零元素）的矩阵 <math>\Pi\in\mathbb R^{m\times n}</math> 进行 Oblivious Subspace Embedding (OSE)。考虑这样的'''随机'''矩阵 <math>A\in \{0,1\}^{n\times d}</math>： <math>A</math> 的每一列随机选择一个位置为 <math>1</math>，其他位置为 <math>0</math>。尝试证明，任意'''确定'''的 <math>\Pi</math> 为<math>A</math>的列空间进行子空间嵌入都至少需要 <math>m=\Omega(d^2)</math> ，即它作为 OSE 不可能降维到 <math>o(d^2)</math>。提示：尝试观察 <math>\Pi Ae_i, \Pi A(e_i+e_j)</math> 的 <math>\ell_2</math>-norm，以及你可能需要应用 birthday paradox（随机地把 <math>d</math> 个球丢入 <math>m</math> 个桶中，那么要满足 <math>m=\Omega(d^2)</math> 才能使得有 <math>\Omega(1)</math>的概率，这 <math>d</math> 个球中不会有两个球被丢进了同一个桶中）。

==CountSketch OSE 的 <math>m=O(d^2/\epsilon^2\delta)</math> 上界==

令 <math>U\in\mathbb R^{n\times d}</math> 是一个列正交矩阵，即 <math>U^\top U=I_d</math>。令 <math>\Pi\in\mathbb R^{m\times n}</math> 是 CountSketch 矩阵：对每个原始坐标 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>；然后令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。记 <math>u_i</math> 为 <math>U</math> 的第 <math>i</math> 行，视为 <math>\mathbb R^d</math> 中的列向量。

#证明 <math>\Pi^\top\Pi-I_n</math> 的第 <math>(i,j)</math> 个元素在 <math>i\ne j</math> 时等于 <math>\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j</math>，在 <math>i=j</math> 时等于 <math>0</math>。
#推出 <math>U^\top\Pi^\top\Pi U-I_d=\sum_{i\ne j:h(i)=h(j)}\sigma_i\sigma_j u_i u_j^\top</math>。
#证明在计算 <math>\mathbb E[\|U^\top\Pi^\top\Pi U-I_d\|_F^2]</math> 时，随机符号会使所有交叉项的期望为 <math>0</math>。也就是说，只有同一对 <math>(i,j)</math> 与自身相乘的项会保留下来。
#证明 <math>\mathbb E[\|U^\top\Pi^\top\Pi U-I_d\|_F^2]\le \frac{1}{m}\sum_{i\ne j}|u_i|_2^2|u_j|_2^2</math>。
#使用 <math>\sum_i|u_i|_2^2=|U|_F^2=d</math>，证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]\le d^2/m</math>。
#用 Markov 不等式证明，如果 <math>m\ge d^2/(\epsilon^2\delta)</math>，那么以概率至少 <math>1-\delta</math>，有 <math>\|U^\top\Pi^\top\Pi U-I_d\|_F\le \epsilon</math>。
#证明如果 <math>\|U^\top\Pi^\top\Pi U-I_d\|_2\le \epsilon</math>，那么对所有 <math>x\in\mathbb R^d</math> 都有 <math>(1-\epsilon)\|Ux\|_2^2\le \|\Pi Ux\|_2^2\le (1+\epsilon)\|Ux\|_2^2</math>。并解释为什么第 (6) 问中的 Frobenius norm bound 足以推出 spectral norm bound。
#总结：说明 CountSketch 虽然每一列只有一个非零元素，但当 <math>m=O(d^2/(\epsilon^2\delta))</math> 时，仍然可以作为一个 <math>d</math> 维子空间的 Oblivious Subspace Embedding。
== 点容量最大流 ==

在通常的最大流问题中，每条边有容量限制。现在考虑如下变体：图为有向图 <math>G=(V,E)</math>，源点为 <math>s</math>，汇点为 <math>t</math>。每条边的容量均为无穷大，但每个点 <math>v\in V</math> 有容量限制 <math>c_v</math>，表示流经该点的总流量不能超过 <math>c_v</math>。可以假设 <math>s</math> 和 <math>t</math> 没有点容量限制，或者它们的点容量为无穷大。

请设计一个多项式时间算法，求从 <math>s</math> 到 <math>t</math> 的最大可行流量。请清楚说明你的建图方式，并证明你的算法是正确的。

== 二分图最大匹配与最小点覆盖的线性规划 ==

令 <math>G=(L,R,E)</math> 是一个二分图。

请写出最大匹配问题的整数规划，并写出它的线性规划松弛。请进一步写出该线性规划的对偶问题。

请写出最小点覆盖问题的整数规划，并说明它与上述对偶线性规划之间的关系。

最后，请利用线性规划对偶性以及二分图匹配问题的整数性，证明二分图中的最大匹配大小等于最小点覆盖大小。也就是说，证明 <math>\nu(G)=\tau(G)</math>，其中 <math>\nu(G)</math> 表示最大匹配大小，<math>\tau(G)</math> 表示最小点覆盖大小。

== 背包问题的线性规划松弛与取整 ==

考虑 <math>0</math>-<math>1</math> 背包问题。有 <math>n</math> 个物品，第 <math>i</math> 个物品的价值为 <math>v_i</math>，重量为 <math>w_i</math>，背包容量为 <math>C</math>。目标是在总重量不超过 <math>C</math> 的前提下最大化总价值。

请写出该问题的整数规划，并写出它的线性规划松弛。

请设计一个基于线性规划松弛最优解的取整算法，得到一个整数可行解。请证明你的算法的近似比。也就是说，请证明你的算法得到的解的价值至少是最优整数解价值的某个常数比例。

== 带下界的可行流 ==

给定一个有向网络 <math>G=(V,E)</math>。每条边 <math>e\in E</math> 有流量下界 <math>\ell_e</math> 和流量上界 <math>u_e</math>，其中 <math>0\le \ell_e\le u_e</math>。我们希望判断是否存在一个流 <math>f</math>，使得每条边都满足 <math>\ell_e\le f_e\le u_e</math>，并且每个点都满足流量守恒。

请设计一个多项式时间算法判断这样的可行流是否存在。如果存在，请说明如何构造一个可行流。请证明你的算法是正确的。

== DAG 最小路径覆盖 ==

给定一个有向无环图 <math>G=(V,E)</math>。一个路径覆盖是若干条有向路径的集合，使得每个点 <math>v\in V</math> 恰好出现在其中一条路径中。路径可以只包含单个点。

请设计一个多项式时间算法，求 <math>G</math> 的最小路径覆盖大小。

请将该问题归约为二分图最大匹配问题。设归约后得到的二分图的最大匹配大小为 <math>M</math>，请证明原图的最小路径覆盖大小为 <math>|V|-M</math>。

== 点不相交路径 ==

给定一个有向图 <math>G=(V,E)</math> 和两个不同的点 <math>s,t\in V</math>。我们希望找到尽可能多条从 <math>s</math> 到 <math>t</math> 的路径，使得任意两条路径除了端点 <math>s</math> 和 <math>t</math> 以外不共享任何内部点。

请设计一个多项式时间算法，求最多有多少条两两内部点不相交的 <math>s</math>-<math>t</math> 路径。请证明你的算法是正确的。

== 带权点覆盖的 Primal-Dual 算法 ==

给定一个无向图 <math>G=(V,E)</math>，每个点 <math>v\in V</math> 有非负权重 <math>w_v</math>。带权点覆盖问题要求选择一个点集 <math>C\subseteq V</math>，使得每条边至少有一个端点属于 <math>C</math>，并最小化 <math>\sum_{v\in C} w_v</math>。

请写出该问题的整数规划和线性规划松弛。请写出该线性规划松弛的对偶问题。

请基于 primal-dual schema 设计一个 <math>2</math>-approximation 算法，并证明其近似比。你的证明应当说明算法构造的对偶解为什么可行，以及输出的点覆盖的权重为什么至多为对偶目标值的 <math>2</math> 倍。

== Set Cover 的线性规划松弛与随机取整 ==

给定一个全集 <math>U</math> 和集合族 <math>\mathcal S</math>，其中每个集合 <math>S\in\mathcal S</math> 有非负成本 <math>c_S</math>。Set Cover 问题要求选择若干集合，使得 <math>U</math> 中每个元素都被至少一个被选集合覆盖，并最小化被选集合的总成本。

请写出 Set Cover 的整数规划和线性规划松弛。设线性规划松弛的最优解为 <math>x_S</math>。

考虑如下随机取整算法：令 <math>\alpha>0</math>，并对每个集合 <math>S\in\mathcal S</math>，独立地以概率 <math>x'_S=\min\{1,\alpha x_S\}</math> 选择集合 <math>S</math>。

请证明当 <math>\alpha=\Theta(\log |U|)</math> 时，所有元素以高概率都被覆盖。请进一步分析该算法的期望成本，并证明它给出一个 <math>O(\log |U|)</math>-approximation。

== 带点容量和需求的最小费用运输问题 ==

有若干工厂、仓库和商店。工厂可以生产货物，商店有固定需求，货物可以通过若干运输边从工厂经过仓库运送到商店。每条运输边 <math>e</math> 有容量上界 <math>u_e</math> 和单位运输费用 <math>a_e</math>。每个仓库 <math>v</math> 有吞吐能力限制 <math>c_v</math>，表示通过该仓库的总货物流量不能超过 <math>c_v</math>。每个工厂 <math>i</math> 的供应上限为 <math>s_i</math>，每个商店 <math>j</math> 的需求量为 <math>d_j</math>。

请设计一个最小费用流模型，判断是否存在满足所有商店需求的运输方案，并在存在时求出最小总运输成本。请说明如何在网络中表示工厂供应、商店需求、运输边容量与费用，以及仓库的点容量限制。请证明你的模型与原问题等价。

高级算法 (Spring 2026)/作业3

2026-06-21T13:00:40Z

Liumingmou:

小题均为提示性质，小题越多越简单。

== 低 <math>\ell_\infty</math>-norm 对高斯 JL 变换没有帮助==

令 <math>\Pi \in \mathbb R^{m\times d}</math> 是一个高斯 Johnson-Lindenstrauss 变换，其中每个元素独立服从 <math>N(0,1/m)</math>。给定任意固定单位向量 <math>x\in\mathbb S^{d-1}</math>。

#证明 <math>\Pi x</math> 的每个坐标都独立服从 <math>N(0,1/m)</math>。
#证明 <math>\|\Pi x\|_2^2</math> 与 <math>\frac{1}{m}\chi_m^2</math> 同分布。因此 <math>\|\Pi x\|_2</math> 的分布与 <math>\|x\|_\infty</math> 无关。
#解释为什么如果使用高斯 JL 变换，即使 <math>x</math> 满足很强的平坦性条件，例如 <math>\|x\|_\infty \le O(1/\sqrt d)</math>，为了保证 <math>\mathbb P[\|\Pi x\|_2^2-1|>\epsilon]\le \delta</math>，所需的目标维数仍然是 <math>m=\Theta(\epsilon^{-2}\log(1/\delta))</math>。
#对比坐标采样型（即 <math>\Pi x</math>直接随机输出 <math>x</math>的某几个维度）降维，简要解释为什么低 <math>\ell_\infty</math>-norm 对坐标采样有帮助，但对高斯 JL 变换没有帮助。

==torus 上的随机网格 LSH==

考虑 metric space <math>( [0,n]^d,d_{\mathrm{torus}} )</math>，其中距离定义为 <math>d_{\mathrm{torus}}(x,y)=\sqrt{\sum_{i=1}^d \min{|x_i-y_i|,n-|x_i-y_i|}^2}</math>。给定网格宽度 <math>w>0</math>。随机选择平移向量 <math>s\in[0,w)^d</math>，并定义 hash function <math>h_s(x)=(\lfloor (x_1+s_1)/w\rfloor,\dots,\lfloor (x_d+s_d)/w\rfloor)</math>，其中每个坐标都按照 torus 的方式取模。

#对于两个点 <math>x,y\in[0,n]^d</math>，记 <math>\Delta_i=\min\{|x_i-y_i|,n-|x_i-y_i|\}</math>。证明如果对所有 <math>i</math> 都有 <math>\Delta_i<w</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]=\prod_{i=1}^d (1-\Delta_i/w)</math>。
#证明如果 <math>d_{\mathrm{torus}}(x,y)\le r</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]\ge 1-\sqrt d,r/w</math>。提示：可以使用 <math>\sum_i\Delta_i\le \sqrt d\sqrt{\sum_i\Delta_i^2}</math>。
#解释为什么这个 LSH family 的随机桶可以看成随机平移后的 axis-aligned cube。请从“近点容易落在同一个随机集合中，远点不容易落在同一个随机集合中”的角度解释这个构造的直觉。
#讨论这个构造在高维空间中的局限性。特别地，当距离 <math>d_{\mathrm{torus}}(x,y)</math> 分散在很多个坐标上时，为什么随机网格更容易把 <math>x</math> 和 <math>y</math> 切开？
#设 <math>x,y</math> 只在一个坐标上相差 <math>r</math>，其他坐标完全相同。计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>。
#设 <math>x,y</math> 在每个坐标上都相差 <math>r/\sqrt d</math>，因此 <math>d_{\mathrm{torus}}(x,y)=r</math>。在 <math>r/\sqrt d<w</math> 的条件下，计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>，并将其写成 <math>(1-r/(w\sqrt d))^d</math> 的形式。
#比较上述两种情况。说明即使两对点的 torus 距离都等于 <math>r</math>，随机网格 LSH 的碰撞概率仍然可能不同。
#解释这说明了什么：axis-aligned grid LSH 并不是只依赖于欧氏距离的完美 LSH family，而是会受到坐标方向和维数的影响。

==球面上的随机超平面 LSH==

考虑球面空间 <math>(\mathbb S^{d-1},d)</math>，其中距离定义为 <math>d(x,y)=\arccos\langle x,y\rangle</math>。随机选择 <math>g\sim N(0,I_d)</math>，并定义 hash function <math>h_g(x)=\operatorname{sign}\langle g,x\rangle</math>。

#对任意 <math>x,y\in\mathbb S^{d-1}</math>，令 <math>\theta=\arccos\langle x,y\rangle</math>。证明 <math>\mathbb P[h_g(x)=h_g(y)]=1-\theta/\pi</math>。
#解释上述公式的几何直觉：随机超平面什么时候会把 <math>x</math> 和 <math>y</math> 分到两侧？
#现在使用 <math>k</math> 个独立随机超平面 <math>g_1,\dots,g_k</math>，并定义组合 hash key 为 <math>H(x)=(h_{g_1}(x),\dots,h_{g_k}(x))</math>。证明 <math>\mathbb P[H(x)=H(y)]=(1-\theta/\pi)^k</math>。
#给定两个角度阈值 <math>0<\theta_1<\theta_2<\pi</math>。令近点满足 <math>d(x,y)\le \theta_1</math>，远点满足 <math>d(x,y)\ge \theta_2</math>。写出这个 LSH family 的参数 <math>p_1</math> 和 <math>p_2</math>，并推导标准 LSH exponent <math>\rho=\log(1/p_1)/\log(1/p_2)</math>。

==由范数保持推出内积保持==

设线性映射 <math>\Pi</math> 对向量集合 <math>{x,y,x+y,x-y}</math> 都保持平方范数，即对所有 <math>v\in{x,y,x+y,x-y}</math> 都有 <math>(1-\epsilon)\|v\|_2^2\le \|\Pi v\|_2^2\le (1+\epsilon)\|v\|_2^2</math>。

#使用恒等式 <math>\langle x,y\rangle=(\|x+y\|_2^2-\|x-y\|_2^2)/4</math>，证明 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)(\|x\|_2^2+\|y\|_2^2)</math>。
# 在 <math>\|x\|_2=\|y\|_2=1</math> 的情况下，将上式化简为 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
# 解释为什么如果 JL 变换对 <math>n</math> 个点的所有两两距离都近似保持，那么这些点的两两内积也近似保持。
# 进一步讨论：如果这些点都在单位球面上，那么 JL 降维之后，球面角度 <math>\arccos\langle x,y\rangle</math> 在什么意义下也被近似保持？

==从阈值版 Approximate Near Neighbor 到 Approximate Nearest Neighbor==

假设你有一个阈值版 Approximate Near Neighbor 黑盒。给定半径 <math>r</math> 和查询点 <math>q</math>，如果数据集 <math>P</math> 中存在点 <math>p</math> 满足 <math>|p-q|\le r</math>，那么黑盒会返回某个点 <math>p'</math>，并保证 <math>|p'-q|\le a r</math>。

现在希望用这个黑盒解决普通 Approximate Nearest Neighbor 问题。设真正最近邻距离为 <math>d^\star=\min_{p\in P}|p-q|</math>。我们建立一组半径 <math>r_0,r_1,r_2,\dots</math>，满足 <math>r_{i+1}=b r_i</math>。查询时，从小到大尝试这些半径，并返回第一个成功的黑盒查询结果。

#证明最终得到的近似比至多为 <math>ab</math>。
#如果希望最终得到 <math>c</math>-approximate nearest neighbor，应该如何选择 <math>a</math> 和 <math>b</math>？
#解释为什么常见做法中，会把阈值版 ANN 黑盒的 approximate ratio 从 <math>c</math> 设置为 <math>\sqrt c</math>。
#如果最近邻距离的可能范围被限制在 <math>[1,\Delta]</math> 中，分析需要建立多少个半径层级。

==先用 JL 降维，再做随机超平面 LSH==

设 <math>P\subseteq\mathbb S^{d-1}</math> 是 <math>n</math> 个单位向量。令 <math>\Pi:\mathbb R^d\to\mathbb R^m</math> 是一个 JL transform，并假设对所有 <math>x,y\in P</math>，都有 <math>\left|\|\Pi x-\Pi y\|_2^2-\|x-y\|_2^2\right|\le \epsilon</math>。同时假设对所有 <math>x\in P</math>，都有 <math>\left|\|\Pi x\|_2^2-1\right|\le \epsilon</math>。

#证明对所有 <math>x,y\in P</math>，都有 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
#令 <math>\theta=\arccos\langle x,y\rangle</math>，并令 <math>\widetilde\theta=\arccos(\langle \Pi x,\Pi y\rangle/(\|\Pi x\|_2\|\Pi y\|_2))</math>。在 <math>\theta</math> 不太接近 <math>0</math> 或 <math>\pi</math> 的情况下，给出 <math>|\theta-\widetilde\theta|</math> 的上界。
#解释为什么可以先对数据集 <math>P</math> 做 JL 降维，再在低维空间中使用随机超平面 LSH。
#讨论当两个点的夹角非常小时，为什么需要更小的 JL 误差才能保证角度的相对误差较好。

==为什么 CountSketch 需要随机符号==

考虑一个没有随机符号的 CountSketch。对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并令 <math>\Pi_{h(i),i}=1</math>，其他位置为 <math>0</math>。
取向量 <math>x=(1,1,\dots,1)/\sqrt n</math>。

#证明 <math>\mathbb E\|\Pi x\|_2^2=1+(n-1)/m</math>。
#说明如果 <math>m=o(n)</math>，那么这个没有随机符号的 sketch 对该向量的范数估计会有严重偏差。
#现在考虑标准 CountSketch：对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>，令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。解释随机符号 <math>\sigma_i</math> 如何使不同坐标碰撞产生的交叉项在期望中相互抵消。
#总结随机符号在 CountSketch 中的作用：它并不能避免碰撞，但可以让碰撞带来的误差成为均值为零的随机噪声。

==CountSketch OSE 的 <math>m=\Omega(d^2)</math> 下界==

假设 <math>n\gg d</math>（不妨假设 <math>n>2^d</math>）。考虑使用一个 column sparsity 只有 <math>1</math> （即，每一列只有一个非零元素）的矩阵 <math>\Pi\in\mathbb R^{m\times n}</math> 进行 Oblivious Subspace Embedding (OSE)。考虑这样的'''随机'''矩阵 <math>A\in \{0,1\}^{n\times d}</math>： <math>A</math> 的每一列随机选择一个位置为 <math>1</math>，其他位置为 <math>0</math>。尝试证明，任意'''确定'''的 <math>\Pi</math> 为<math>A</math>的列空间进行子空间嵌入都至少需要 <math>m=\Omega(d^2)</math> ，即它作为 OSE 不可能降维到 <math>o(d^2)</math>。提示：尝试观察 <math>\Pi Ae_i, \Pi A(e_i+e_j)</math> 的 <math>\ell_2</math>-norm，以及你可能需要应用 birthday paradox（随机地把 <math>d</math> 个球丢入 <math>m</math> 个桶中，那么要满足 <math>m=\Omega(d^2)</math> 才能使得有 <math>\Omega(1)</math>的概率，这 <math>d</math> 个球中不会有两个球被丢进了同一个桶中）。

==CountSketch OSE 的 <math>m=O(d^2/\epsilon^2\delta)</math> 上界==

令 <math>U\in\mathbb R^{n\times d}</math> 是一个列正交矩阵，即 <math>U^\top U=I_d</math>。令 <math>\Pi\in\mathbb R^{m\times n}</math> 是 CountSketch 矩阵：对每个原始坐标 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>；然后令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。记 <math>u_i</math> 为 <math>U</math> 的第 <math>i</math> 行，视为 <math>\mathbb R^d</math> 中的列向量。

#证明 <math>\Pi^\top\Pi-I_n</math> 的第 <math>(i,j)</math> 个元素在 <math>i\ne j</math> 时等于 <math>\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j</math>，在 <math>i=j</math> 时等于 <math>0</math>。
#推出 <math>U^\top\Pi^\top\Pi U-I_d=\sum_{i\ne j:h(i)=h(j)}\sigma_i\sigma_j u_i u_j^\top</math>。
#证明在计算 <math>\mathbb E[\|U^\top\Pi^\top\Pi U-I_d\|_F^2]</math> 时，随机符号会使所有交叉项的期望为 <math>0</math>。也就是说，只有同一对 <math>(i,j)</math> 与自身相乘的项会保留下来。
#证明 <math>\mathbb E[\|U^\top\Pi^\top\Pi U-I_d\|_F^2]\le \frac{1}{m}\sum_{i\ne j}|u_i|_2^2|u_j|_2^2</math>。
#使用 <math>\sum_i|u_i|_2^2=|U|_F^2=d</math>，证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]\le d^2/m</math>。
#用 Markov 不等式证明，如果 <math>m\ge d^2/(\epsilon^2\delta)</math>，那么以概率至少 <math>1-\delta</math>，有 <math>\|U^\top\Pi^\top\Pi U-I_d\|_F\le \epsilon</math>。
#证明如果 <math>\|U^\top\Pi^\top\Pi U-I_d\|_2\le \epsilon</math>，那么对所有 <math>x\in\mathbb R^d</math> 都有 <math>(1-\epsilon)\|Ux\|_2^2\le \|\Pi Ux\|_2^2\le (1+\epsilon)\|Ux\|_2^2</math>。并解释为什么第 (6) 问中的 Frobenius norm bound 足以推出 spectral norm bound。
#总结：说明 CountSketch 虽然每一列只有一个非零元素，但当 <math>m=O(d^2/(\epsilon^2\delta))</math> 时，仍然可以作为一个 <math>d</math> 维子空间的 Oblivious Subspace Embedding。
== 点容量最大流 ==

在通常的最大流问题中，每条边有容量限制。现在考虑如下变体：图为有向图 <math>G=(V,E)</math>，源点为 <math>s</math>，汇点为 <math>t</math>。每条边的容量均为无穷大，但每个点 <math>v\in V</math> 有容量限制 <math>c_v</math>，表示流经该点的总流量不能超过 <math>c_v</math>。可以假设 <math>s</math> 和 <math>t</math> 没有点容量限制，或者它们的点容量为无穷大。

请设计一个多项式时间算法，求从 <math>s</math> 到 <math>t</math> 的最大可行流量。请清楚说明你的建图方式，并证明你的算法是正确的。

== 二分图最大匹配与最小点覆盖的线性规划 ==

令 <math>G=(L,R,E)</math> 是一个二分图。

请写出最大匹配问题的整数规划，并写出它的线性规划松弛。请进一步写出该线性规划的对偶问题。

请写出最小点覆盖问题的整数规划，并说明它与上述对偶线性规划之间的关系。

最后，请利用线性规划对偶性以及二分图匹配问题的整数性，证明二分图中的最大匹配大小等于最小点覆盖大小。也就是说，证明 <math>\nu(G)=\tau(G)</math>，其中 <math>\nu(G)</math> 表示最大匹配大小，<math>\tau(G)</math> 表示最小点覆盖大小。

== 背包问题的线性规划松弛与取整 ==

考虑 <math>0</math>-<math>1</math> 背包问题。有 <math>n</math> 个物品，第 <math>i</math> 个物品的价值为 <math>v_i</math>，重量为 <math>w_i</math>，背包容量为 <math>C</math>。目标是在总重量不超过 <math>C</math> 的前提下最大化总价值。

请写出该问题的整数规划，并写出它的线性规划松弛。

请设计一个基于线性规划松弛最优解的取整算法，得到一个整数可行解。请证明你的算法的近似比。也就是说，请证明你的算法得到的解的价值至少是最优整数解价值的某个常数比例。

== 带下界的可行流 ==

给定一个有向网络 <math>G=(V,E)</math>。每条边 <math>e\in E</math> 有流量下界 <math>\ell_e</math> 和流量上界 <math>u_e</math>，其中 <math>0\le \ell_e\le u_e</math>。我们希望判断是否存在一个流 <math>f</math>，使得每条边都满足 <math>\ell_e\le f_e\le u_e</math>，并且每个点都满足流量守恒。

请设计一个多项式时间算法判断这样的可行流是否存在。如果存在，请说明如何构造一个可行流。请证明你的算法是正确的。

== DAG 最小路径覆盖 ==

给定一个有向无环图 <math>G=(V,E)</math>。一个路径覆盖是若干条有向路径的集合，使得每个点 <math>v\in V</math> 恰好出现在其中一条路径中。路径可以只包含单个点。

请设计一个多项式时间算法，求 <math>G</math> 的最小路径覆盖大小。

请将该问题归约为二分图最大匹配问题。设归约后得到的二分图的最大匹配大小为 <math>M</math>，请证明原图的最小路径覆盖大小为 <math>|V|-M</math>。

== 点不相交路径 ==

给定一个有向图 <math>G=(V,E)</math> 和两个不同的点 <math>s,t\in V</math>。我们希望找到尽可能多条从 <math>s</math> 到 <math>t</math> 的路径，使得任意两条路径除了端点 <math>s</math> 和 <math>t</math> 以外不共享任何内部点。

请设计一个多项式时间算法，求最多有多少条两两内部点不相交的 <math>s</math>-<math>t</math> 路径。请证明你的算法是正确的。

== 带权点覆盖的 Primal-Dual 算法 ==

给定一个无向图 <math>G=(V,E)</math>，每个点 <math>v\in V</math> 有非负权重 <math>w_v</math>。带权点覆盖问题要求选择一个点集 <math>C\subseteq V</math>，使得每条边至少有一个端点属于 <math>C</math>，并最小化 <math>\sum_{v\in C} w_v</math>。

请写出该问题的整数规划和线性规划松弛。请写出该线性规划松弛的对偶问题。

请基于 primal-dual schema 设计一个 <math>2</math>-approximation 算法，并证明其近似比。你的证明应当说明算法构造的对偶解为什么可行，以及输出的点覆盖的权重为什么至多为对偶目标值的 <math>2</math> 倍。

== Set Cover 的线性规划松弛与随机取整 ==

给定一个 universe <math>U</math> 和集合族 <math>\mathcal S</math>，其中每个集合 <math>S\in\mathcal S</math> 有非负成本 <math>c_S</math>。Set Cover 问题要求选择若干集合，使得 <math>U</math> 中每个元素都被至少一个被选集合覆盖，并最小化被选集合的总成本。

请写出 Set Cover 的整数规划和线性规划松弛。设线性规划松弛的最优解为 <math>x_S</math>。

考虑如下随机取整算法：令 <math>\alpha>0</math>，并对每个集合 <math>S\in\mathcal S</math>，独立地以概率 <math>x'_S=\min{1,\alpha x_S}</math> 选择集合 <math>S</math>。

请证明当 <math>\alpha=\Theta(\log |U|)</math> 时，所有元素以高概率都被覆盖。请进一步分析该算法的期望成本，并证明它给出一个 <math>O(\log |U|)</math>-approximation。

== 带点容量和需求的最小费用运输问题 ==

有若干工厂、仓库和商店。工厂可以生产货物，商店有固定需求，货物可以通过若干运输边从工厂经过仓库运送到商店。每条运输边 <math>e</math> 有容量上界 <math>u_e</math> 和单位运输费用 <math>a_e</math>。每个仓库 <math>v</math> 有吞吐能力限制 <math>c_v</math>，表示通过该仓库的总货物流量不能超过 <math>c_v</math>。每个工厂 <math>i</math> 的供应上限为 <math>s_i</math>，每个商店 <math>j</math> 的需求量为 <math>d_j</math>。

请设计一个最小费用流模型，判断是否存在满足所有商店需求的运输方案，并在存在时求出最小总运输成本。请说明如何在网络中表示工厂供应、商店需求、运输边容量与费用，以及仓库的点容量限制。请证明你的模型与原问题等价。

计算理论之美 (Summer 2026)

2026-06-21T12:46:06Z

Liumingmou: /* Tentative Schedule */

计算理论之美 (Summer 2026)

2026-06-21T12:36:11Z

Liumingmou: /* Tentative Schedule */

计算理论之美 (Summer 2026)

2026-06-21T12:35:40Z

Liumingmou: /* Tentative Schedule */

高级算法 (Spring 2026)/作业3

2026-06-15T10:26:56Z

Liumingmou:

计算理论之美 (Summer 2026)

2026-06-15T10:25:50Z

Liumingmou:

计算理论之美 (Summer 2026)

2026-06-15T10:25:41Z

Liumingmou:

高级算法 (Spring 2026)/作业3

2026-06-14T14:56:59Z

Liumingmou: /* CountSketch OSE 的 m=\Omega(d^2) 上界 */

== 低 <math>\ell_\infty</math>-norm 对高斯 JL 变换没有帮助==

令 <math>\Pi \in \mathbb R^{m\times d}</math> 是一个高斯 Johnson-Lindenstrauss 变换，其中每个元素独立服从 <math>N(0,1/m)</math>。给定任意固定单位向量 <math>x\in\mathbb S^{d-1}</math>。

#证明 <math>\Pi x</math> 的每个坐标都独立服从 <math>N(0,1/m)</math>。
#证明 <math>\|\Pi x\|_2^2</math> 与 <math>\frac{1}{m}\chi_m^2</math> 同分布。因此 <math>\|\Pi x\|_2</math> 的分布与 <math>\|x\|_\infty</math> 无关。
#解释为什么如果使用高斯 JL 变换，即使 <math>x</math> 满足很强的平坦性条件，例如 <math>\|x\|_\infty \le O(1/\sqrt d)</math>，为了保证 <math>\mathbb P[\|\Pi x\|_2^2-1|>\epsilon]\le \delta</math>，所需的目标维数仍然是 <math>m=\Theta(\epsilon^{-2}\log(1/\delta))</math>。
#对比坐标采样型（即 <math>\Pi x</math>直接随机输出 <math>x</math>的某几个维度）降维，简要解释为什么低 <math>\ell_\infty</math>-norm 对坐标采样有帮助，但对高斯 JL 变换没有帮助。

==torus 上的随机网格 LSH==

考虑 metric space <math>( [0,n]^d,d_{\mathrm{torus}} )</math>，其中距离定义为 <math>d_{\mathrm{torus}}(x,y)=\sqrt{\sum_{i=1}^d \min{|x_i-y_i|,n-|x_i-y_i|}^2}</math>。给定网格宽度 <math>w>0</math>。随机选择平移向量 <math>s\in[0,w)^d</math>，并定义 hash function <math>h_s(x)=(\lfloor (x_1+s_1)/w\rfloor,\dots,\lfloor (x_d+s_d)/w\rfloor)</math>，其中每个坐标都按照 torus 的方式取模。

#对于两个点 <math>x,y\in[0,n]^d</math>，记 <math>\Delta_i=\min\{|x_i-y_i|,n-|x_i-y_i|\}</math>。证明如果对所有 <math>i</math> 都有 <math>\Delta_i<w</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]=\prod_{i=1}^d (1-\Delta_i/w)</math>。
#证明如果 <math>d_{\mathrm{torus}}(x,y)\le r</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]\ge 1-\sqrt d,r/w</math>。提示：可以使用 <math>\sum_i\Delta_i\le \sqrt d\sqrt{\sum_i\Delta_i^2}</math>。
#解释为什么这个 LSH family 的随机桶可以看成随机平移后的 axis-aligned cube。请从“近点容易落在同一个随机集合中，远点不容易落在同一个随机集合中”的角度解释这个构造的直觉。
#讨论这个构造在高维空间中的局限性。特别地，当距离 <math>d_{\mathrm{torus}}(x,y)</math> 分散在很多个坐标上时，为什么随机网格更容易把 <math>x</math> 和 <math>y</math> 切开？
#设 <math>x,y</math> 只在一个坐标上相差 <math>r</math>，其他坐标完全相同。计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>。
#设 <math>x,y</math> 在每个坐标上都相差 <math>r/\sqrt d</math>，因此 <math>d_{\mathrm{torus}}(x,y)=r</math>。在 <math>r/\sqrt d<w</math> 的条件下，计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>，并将其写成 <math>(1-r/(w\sqrt d))^d</math> 的形式。
#比较上述两种情况。说明即使两对点的 torus 距离都等于 <math>r</math>，随机网格 LSH 的碰撞概率仍然可能不同。
#解释这说明了什么：axis-aligned grid LSH 并不是只依赖于欧氏距离的完美 LSH family，而是会受到坐标方向和维数的影响。

==球面上的随机超平面 LSH==

考虑球面空间 <math>(\mathbb S^{d-1},d)</math>，其中距离定义为 <math>d(x,y)=\arccos\langle x,y\rangle</math>。随机选择 <math>g\sim N(0,I_d)</math>，并定义 hash function <math>h_g(x)=\operatorname{sign}\langle g,x\rangle</math>。

#对任意 <math>x,y\in\mathbb S^{d-1}</math>，令 <math>\theta=\arccos\langle x,y\rangle</math>。证明 <math>\mathbb P[h_g(x)=h_g(y)]=1-\theta/\pi</math>。
#解释上述公式的几何直觉：随机超平面什么时候会把 <math>x</math> 和 <math>y</math> 分到两侧？
#现在使用 <math>k</math> 个独立随机超平面 <math>g_1,\dots,g_k</math>，并定义组合 hash key 为 <math>H(x)=(h_{g_1}(x),\dots,h_{g_k}(x))</math>。证明 <math>\mathbb P[H(x)=H(y)]=(1-\theta/\pi)^k</math>。
#给定两个角度阈值 <math>0<\theta_1<\theta_2<\pi</math>。令近点满足 <math>d(x,y)\le \theta_1</math>，远点满足 <math>d(x,y)\ge \theta_2</math>。写出这个 LSH family 的参数 <math>p_1</math> 和 <math>p_2</math>，并推导标准 LSH exponent <math>\rho=\log(1/p_1)/\log(1/p_2)</math>。

==由范数保持推出内积保持==

设线性映射 <math>\Pi</math> 对向量集合 <math>{x,y,x+y,x-y}</math> 都保持平方范数，即对所有 <math>v\in{x,y,x+y,x-y}</math> 都有 <math>(1-\epsilon)\|v\|_2^2\le \|\Pi v\|_2^2\le (1+\epsilon)\|v\|_2^2</math>。

#使用恒等式 <math>\langle x,y\rangle=(\|x+y\|_2^2-\|x-y\|_2^2)/4</math>，证明 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)(\|x\|_2^2+\|y\|_2^2)</math>。
# 在 <math>\|x\|_2=\|y\|_2=1</math> 的情况下，将上式化简为 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
# 解释为什么如果 JL 变换对 <math>n</math> 个点的所有两两距离都近似保持，那么这些点的两两内积也近似保持。
# 进一步讨论：如果这些点都在单位球面上，那么 JL 降维之后，球面角度 <math>\arccos\langle x,y\rangle</math> 在什么意义下也被近似保持？

==从阈值版 Approximate Near Neighbor 到 Approximate Nearest Neighbor==

假设你有一个阈值版 Approximate Near Neighbor 黑盒。给定半径 <math>r</math> 和查询点 <math>q</math>，如果数据集 <math>P</math> 中存在点 <math>p</math> 满足 <math>|p-q|\le r</math>，那么黑盒会返回某个点 <math>p'</math>，并保证 <math>|p'-q|\le a r</math>。

现在希望用这个黑盒解决普通 Approximate Nearest Neighbor 问题。设真正最近邻距离为 <math>d^\star=\min_{p\in P}|p-q|</math>。我们建立一组半径 <math>r_0,r_1,r_2,\dots</math>，满足 <math>r_{i+1}=b r_i</math>。查询时，从小到大尝试这些半径，并返回第一个成功的黑盒查询结果。

#证明最终得到的近似比至多为 <math>ab</math>。
#如果希望最终得到 <math>c</math>-approximate nearest neighbor，应该如何选择 <math>a</math> 和 <math>b</math>？
#解释为什么常见做法中，会把阈值版 ANN 黑盒的 approximate ratio 从 <math>c</math> 设置为 <math>\sqrt c</math>。
#如果最近邻距离的可能范围被限制在 <math>[1,\Delta]</math> 中，分析需要建立多少个半径层级。

==先用 JL 降维，再做随机超平面 LSH==

设 <math>P\subseteq\mathbb S^{d-1}</math> 是 <math>n</math> 个单位向量。令 <math>\Pi:\mathbb R^d\to\mathbb R^m</math> 是一个 JL transform，并假设对所有 <math>x,y\in P</math>，都有 <math>\left|\|\Pi x-\Pi y\|_2^2-\|x-y\|_2^2\right|\le \epsilon</math>。同时假设对所有 <math>x\in P</math>，都有 <math>\left|\|\Pi x\|_2^2-1\right|\le \epsilon</math>。

#证明对所有 <math>x,y\in P</math>，都有 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
#令 <math>\theta=\arccos\langle x,y\rangle</math>，并令 <math>\widetilde\theta=\arccos(\langle \Pi x,\Pi y\rangle/(\|\Pi x\|_2\|\Pi y\|_2))</math>。在 <math>\theta</math> 不太接近 <math>0</math> 或 <math>\pi</math> 的情况下，给出 <math>|\theta-\widetilde\theta|</math> 的上界。
#解释为什么可以先对数据集 <math>P</math> 做 JL 降维，再在低维空间中使用随机超平面 LSH。
#讨论当两个点的夹角非常小时，为什么需要更小的 JL 误差才能保证角度的相对误差较好。

==为什么 CountSketch 需要随机符号==

考虑一个没有随机符号的 CountSketch。对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并令 <math>\Pi_{h(i),i}=1</math>，其他位置为 <math>0</math>。
取向量 <math>x=(1,1,\dots,1)/\sqrt n</math>。

#证明 <math>\mathbb E\|\Pi x\|_2^2=1+(n-1)/m</math>。
#说明如果 <math>m=o(n)</math>，那么这个没有随机符号的 sketch 对该向量的范数估计会有严重偏差。
#现在考虑标准 CountSketch：对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>，令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。解释随机符号 <math>\sigma_i</math> 如何使不同坐标碰撞产生的交叉项在期望中相互抵消。
#总结随机符号在 CountSketch 中的作用：它并不能避免碰撞，但可以让碰撞带来的误差成为均值为零的随机噪声。

==CountSketch OSE 的 <math>m=\Omega(d^2)</math> 下界==

假设 <math>n\gg d</math>（不妨假设 <math>n>2^d</math>）。考虑使用一个 column sparsity 只有 <math>1</math> （即，每一列只有一个非零元素）的矩阵 <math>\Pi\in\mathbb R^{m\times n}</math> 进行 Oblivious Subspace Embedding (OSE)。考虑这样的'''随机'''矩阵 <math>A\in \{0,1\}^{n\times d}</math>： <math>A</math> 的每一列随机选择一个位置为 <math>1</math>，其他位置为 <math>0</math>。尝试证明，任意'''确定'''的 <math>\Pi</math> 为<math>A</math>的列空间进行子空间嵌入都至少需要 <math>m=\Omega(d^2)</math> ，即它作为 OSE 不可能降维到 <math>o(d^2)</math>。提示：尝试观察 <math>\Pi Ae_i, \Pi A(e_i+e_j)</math> 的 <math>\ell_2</math>-norm，以及你可能需要应用 birthday paradox（随机地把 <math>d</math> 个球丢入 <math>m</math> 个桶中，那么要满足 <math>m=\Omega(d^2)</math> 才能使得有 <math>\Omega(1)</math>的概率，这 <math>d</math> 个球中不会有两个球被丢进了同一个桶中）。

==CountSketch OSE 的 <math>m=O(d^2/\epsilon^2\delta)</math> 上界==

令 <math>U\in\mathbb R^{n\times d}</math> 是一个列正交矩阵，即 <math>U^\top U=I_d</math>。令 <math>\Pi\in\mathbb R^{m\times n}</math> 是 CountSketch 矩阵：对每个原始坐标 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>；然后令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。记 <math>u_i</math> 为 <math>U</math> 的第 <math>i</math> 行，视为 <math>\mathbb R^d</math> 中的列向量。

#证明 <math>\Pi^\top\Pi-I_n</math> 的第 <math>(i,j)</math> 个元素在 <math>i\ne j</math> 时等于 <math>\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j</math>，在 <math>i=j</math> 时等于 <math>0</math>。
#推出 <math>U^\top\Pi^\top\Pi U-I_d=\sum_{i\ne j:h(i)=h(j)}\sigma_i\sigma_j u_i u_j^\top</math>。
#证明在计算 <math>\mathbb E[\|U^\top\Pi^\top\Pi U-I_d\|_F^2]</math> 时，随机符号会使所有交叉项的期望为 <math>0</math>。也就是说，只有同一对 <math>(i,j)</math> 与自身相乘的项会保留下来。
#证明 <math>\mathbb E[\|U^\top\Pi^\top\Pi U-I_d\|_F^2]\le \frac{1}{m}\sum_{i\ne j}|u_i|_2^2|u_j|_2^2</math>。
#使用 <math>\sum_i|u_i|_2^2=|U|_F^2=d</math>，证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]\le d^2/m</math>。
#用 Markov 不等式证明，如果 <math>m\ge d^2/(\epsilon^2\delta)</math>，那么以概率至少 <math>1-\delta</math>，有 <math>\|U^\top\Pi^\top\Pi U-I_d\|_F\le \epsilon</math>。
#证明如果 <math>\|U^\top\Pi^\top\Pi U-I_d\|_2\le \epsilon</math>，那么对所有 <math>x\in\mathbb R^d</math> 都有 <math>(1-\epsilon)\|Ux\|_2^2\le \|\Pi Ux\|_2^2\le (1+\epsilon)\|Ux\|_2^2</math>。并解释为什么第 (6) 问中的 Frobenius norm bound 足以推出 spectral norm bound。
#总结：说明 CountSketch 虽然每一列只有一个非零元素，但当 <math>m=O(d^2/(\epsilon^2\delta))</math> 时，仍然可以作为一个 <math>d</math> 维子空间的 Oblivious Subspace Embedding。

高级算法 (Spring 2026)/作业3

2026-06-14T14:56:31Z

Liumingmou:

== 低 <math>\ell_\infty</math>-norm 对高斯 JL 变换没有帮助==

令 <math>\Pi \in \mathbb R^{m\times d}</math> 是一个高斯 Johnson-Lindenstrauss 变换，其中每个元素独立服从 <math>N(0,1/m)</math>。给定任意固定单位向量 <math>x\in\mathbb S^{d-1}</math>。

#证明 <math>\Pi x</math> 的每个坐标都独立服从 <math>N(0,1/m)</math>。
#证明 <math>\|\Pi x\|_2^2</math> 与 <math>\frac{1}{m}\chi_m^2</math> 同分布。因此 <math>\|\Pi x\|_2</math> 的分布与 <math>\|x\|_\infty</math> 无关。
#解释为什么如果使用高斯 JL 变换，即使 <math>x</math> 满足很强的平坦性条件，例如 <math>\|x\|_\infty \le O(1/\sqrt d)</math>，为了保证 <math>\mathbb P[\|\Pi x\|_2^2-1|>\epsilon]\le \delta</math>，所需的目标维数仍然是 <math>m=\Theta(\epsilon^{-2}\log(1/\delta))</math>。
#对比坐标采样型（即 <math>\Pi x</math>直接随机输出 <math>x</math>的某几个维度）降维，简要解释为什么低 <math>\ell_\infty</math>-norm 对坐标采样有帮助，但对高斯 JL 变换没有帮助。

==torus 上的随机网格 LSH==

考虑 metric space <math>( [0,n]^d,d_{\mathrm{torus}} )</math>，其中距离定义为 <math>d_{\mathrm{torus}}(x,y)=\sqrt{\sum_{i=1}^d \min{|x_i-y_i|,n-|x_i-y_i|}^2}</math>。给定网格宽度 <math>w>0</math>。随机选择平移向量 <math>s\in[0,w)^d</math>，并定义 hash function <math>h_s(x)=(\lfloor (x_1+s_1)/w\rfloor,\dots,\lfloor (x_d+s_d)/w\rfloor)</math>，其中每个坐标都按照 torus 的方式取模。

#对于两个点 <math>x,y\in[0,n]^d</math>，记 <math>\Delta_i=\min\{|x_i-y_i|,n-|x_i-y_i|\}</math>。证明如果对所有 <math>i</math> 都有 <math>\Delta_i<w</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]=\prod_{i=1}^d (1-\Delta_i/w)</math>。
#证明如果 <math>d_{\mathrm{torus}}(x,y)\le r</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]\ge 1-\sqrt d,r/w</math>。提示：可以使用 <math>\sum_i\Delta_i\le \sqrt d\sqrt{\sum_i\Delta_i^2}</math>。
#解释为什么这个 LSH family 的随机桶可以看成随机平移后的 axis-aligned cube。请从“近点容易落在同一个随机集合中，远点不容易落在同一个随机集合中”的角度解释这个构造的直觉。
#讨论这个构造在高维空间中的局限性。特别地，当距离 <math>d_{\mathrm{torus}}(x,y)</math> 分散在很多个坐标上时，为什么随机网格更容易把 <math>x</math> 和 <math>y</math> 切开？
#设 <math>x,y</math> 只在一个坐标上相差 <math>r</math>，其他坐标完全相同。计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>。
#设 <math>x,y</math> 在每个坐标上都相差 <math>r/\sqrt d</math>，因此 <math>d_{\mathrm{torus}}(x,y)=r</math>。在 <math>r/\sqrt d<w</math> 的条件下，计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>，并将其写成 <math>(1-r/(w\sqrt d))^d</math> 的形式。
#比较上述两种情况。说明即使两对点的 torus 距离都等于 <math>r</math>，随机网格 LSH 的碰撞概率仍然可能不同。
#解释这说明了什么：axis-aligned grid LSH 并不是只依赖于欧氏距离的完美 LSH family，而是会受到坐标方向和维数的影响。

==球面上的随机超平面 LSH==

考虑球面空间 <math>(\mathbb S^{d-1},d)</math>，其中距离定义为 <math>d(x,y)=\arccos\langle x,y\rangle</math>。随机选择 <math>g\sim N(0,I_d)</math>，并定义 hash function <math>h_g(x)=\operatorname{sign}\langle g,x\rangle</math>。

#对任意 <math>x,y\in\mathbb S^{d-1}</math>，令 <math>\theta=\arccos\langle x,y\rangle</math>。证明 <math>\mathbb P[h_g(x)=h_g(y)]=1-\theta/\pi</math>。
#解释上述公式的几何直觉：随机超平面什么时候会把 <math>x</math> 和 <math>y</math> 分到两侧？
#现在使用 <math>k</math> 个独立随机超平面 <math>g_1,\dots,g_k</math>，并定义组合 hash key 为 <math>H(x)=(h_{g_1}(x),\dots,h_{g_k}(x))</math>。证明 <math>\mathbb P[H(x)=H(y)]=(1-\theta/\pi)^k</math>。
#给定两个角度阈值 <math>0<\theta_1<\theta_2<\pi</math>。令近点满足 <math>d(x,y)\le \theta_1</math>，远点满足 <math>d(x,y)\ge \theta_2</math>。写出这个 LSH family 的参数 <math>p_1</math> 和 <math>p_2</math>，并推导标准 LSH exponent <math>\rho=\log(1/p_1)/\log(1/p_2)</math>。

==由范数保持推出内积保持==

设线性映射 <math>\Pi</math> 对向量集合 <math>{x,y,x+y,x-y}</math> 都保持平方范数，即对所有 <math>v\in{x,y,x+y,x-y}</math> 都有 <math>(1-\epsilon)\|v\|_2^2\le \|\Pi v\|_2^2\le (1+\epsilon)\|v\|_2^2</math>。

#使用恒等式 <math>\langle x,y\rangle=(\|x+y\|_2^2-\|x-y\|_2^2)/4</math>，证明 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)(\|x\|_2^2+\|y\|_2^2)</math>。
# 在 <math>\|x\|_2=\|y\|_2=1</math> 的情况下，将上式化简为 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
# 解释为什么如果 JL 变换对 <math>n</math> 个点的所有两两距离都近似保持，那么这些点的两两内积也近似保持。
# 进一步讨论：如果这些点都在单位球面上，那么 JL 降维之后，球面角度 <math>\arccos\langle x,y\rangle</math> 在什么意义下也被近似保持？

==从阈值版 Approximate Near Neighbor 到 Approximate Nearest Neighbor==

假设你有一个阈值版 Approximate Near Neighbor 黑盒。给定半径 <math>r</math> 和查询点 <math>q</math>，如果数据集 <math>P</math> 中存在点 <math>p</math> 满足 <math>|p-q|\le r</math>，那么黑盒会返回某个点 <math>p'</math>，并保证 <math>|p'-q|\le a r</math>。

现在希望用这个黑盒解决普通 Approximate Nearest Neighbor 问题。设真正最近邻距离为 <math>d^\star=\min_{p\in P}|p-q|</math>。我们建立一组半径 <math>r_0,r_1,r_2,\dots</math>，满足 <math>r_{i+1}=b r_i</math>。查询时，从小到大尝试这些半径，并返回第一个成功的黑盒查询结果。

#证明最终得到的近似比至多为 <math>ab</math>。
#如果希望最终得到 <math>c</math>-approximate nearest neighbor，应该如何选择 <math>a</math> 和 <math>b</math>？
#解释为什么常见做法中，会把阈值版 ANN 黑盒的 approximate ratio 从 <math>c</math> 设置为 <math>\sqrt c</math>。
#如果最近邻距离的可能范围被限制在 <math>[1,\Delta]</math> 中，分析需要建立多少个半径层级。

==先用 JL 降维，再做随机超平面 LSH==

设 <math>P\subseteq\mathbb S^{d-1}</math> 是 <math>n</math> 个单位向量。令 <math>\Pi:\mathbb R^d\to\mathbb R^m</math> 是一个 JL transform，并假设对所有 <math>x,y\in P</math>，都有 <math>\left|\|\Pi x-\Pi y\|_2^2-\|x-y\|_2^2\right|\le \epsilon</math>。同时假设对所有 <math>x\in P</math>，都有 <math>\left|\|\Pi x\|_2^2-1\right|\le \epsilon</math>。

#证明对所有 <math>x,y\in P</math>，都有 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
#令 <math>\theta=\arccos\langle x,y\rangle</math>，并令 <math>\widetilde\theta=\arccos(\langle \Pi x,\Pi y\rangle/(\|\Pi x\|_2\|\Pi y\|_2))</math>。在 <math>\theta</math> 不太接近 <math>0</math> 或 <math>\pi</math> 的情况下，给出 <math>|\theta-\widetilde\theta|</math> 的上界。
#解释为什么可以先对数据集 <math>P</math> 做 JL 降维，再在低维空间中使用随机超平面 LSH。
#讨论当两个点的夹角非常小时，为什么需要更小的 JL 误差才能保证角度的相对误差较好。

==为什么 CountSketch 需要随机符号==

考虑一个没有随机符号的 CountSketch。对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并令 <math>\Pi_{h(i),i}=1</math>，其他位置为 <math>0</math>。
取向量 <math>x=(1,1,\dots,1)/\sqrt n</math>。

#证明 <math>\mathbb E\|\Pi x\|_2^2=1+(n-1)/m</math>。
#说明如果 <math>m=o(n)</math>，那么这个没有随机符号的 sketch 对该向量的范数估计会有严重偏差。
#现在考虑标准 CountSketch：对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>，令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。解释随机符号 <math>\sigma_i</math> 如何使不同坐标碰撞产生的交叉项在期望中相互抵消。
#总结随机符号在 CountSketch 中的作用：它并不能避免碰撞，但可以让碰撞带来的误差成为均值为零的随机噪声。

==CountSketch OSE 的 <math>m=\Omega(d^2)</math> 上界==

假设 <math>n\gg d</math>（不妨假设 <math>n>2^d</math>）。考虑使用一个 column sparsity 只有 <math>1</math> （即，每一列只有一个非零元素）的矩阵 <math>\Pi\in\mathbb R^{m\times n}</math> 进行 Oblivious Subspace Embedding (OSE)。考虑这样的'''随机'''矩阵 <math>A\in \{0,1\}^{n\times d}</math>： <math>A</math> 的每一列随机选择一个位置为 <math>1</math>，其他位置为 <math>0</math>。尝试证明，任意'''确定'''的 <math>\Pi</math> 为<math>A</math>的列空间进行子空间嵌入都至少需要 <math>m=\Omega(d^2)</math> ，即它作为 OSE 不可能降维到 <math>o(d^2)</math>。提示：尝试观察 <math>\Pi Ae_i, \Pi A(e_i+e_j)</math> 的 <math>\ell_2</math>-norm，以及你可能需要应用 birthday paradox（随机地把 <math>d</math> 个球丢入 <math>m</math> 个桶中，那么要满足 <math>m=\Omega(d^2)</math> 才能使得有 <math>\Omega(1)</math>的概率，这 <math>d</math> 个球中不会有两个球被丢进了同一个桶中）。

==CountSketch OSE 的 <math>m=O(d^2/\epsilon^2\delta)</math> 上界==

令 <math>U\in\mathbb R^{n\times d}</math> 是一个列正交矩阵，即 <math>U^\top U=I_d</math>。令 <math>\Pi\in\mathbb R^{m\times n}</math> 是 CountSketch 矩阵：对每个原始坐标 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>；然后令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。记 <math>u_i</math> 为 <math>U</math> 的第 <math>i</math> 行，视为 <math>\mathbb R^d</math> 中的列向量。

#证明 <math>\Pi^\top\Pi-I_n</math> 的第 <math>(i,j)</math> 个元素在 <math>i\ne j</math> 时等于 <math>\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j</math>，在 <math>i=j</math> 时等于 <math>0</math>。
#推出 <math>U^\top\Pi^\top\Pi U-I_d=\sum_{i\ne j:h(i)=h(j)}\sigma_i\sigma_j u_i u_j^\top</math>。
#证明在计算 <math>\mathbb E[\|U^\top\Pi^\top\Pi U-I_d\|_F^2]</math> 时，随机符号会使所有交叉项的期望为 <math>0</math>。也就是说，只有同一对 <math>(i,j)</math> 与自身相乘的项会保留下来。
#证明 <math>\mathbb E[\|U^\top\Pi^\top\Pi U-I_d\|_F^2]\le \frac{1}{m}\sum_{i\ne j}|u_i|_2^2|u_j|_2^2</math>。
#使用 <math>\sum_i|u_i|_2^2=|U|_F^2=d</math>，证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]\le d^2/m</math>。
#用 Markov 不等式证明，如果 <math>m\ge d^2/(\epsilon^2\delta)</math>，那么以概率至少 <math>1-\delta</math>，有 <math>\|U^\top\Pi^\top\Pi U-I_d\|_F\le \epsilon</math>。
#证明如果 <math>\|U^\top\Pi^\top\Pi U-I_d\|_2\le \epsilon</math>，那么对所有 <math>x\in\mathbb R^d</math> 都有 <math>(1-\epsilon)\|Ux\|_2^2\le \|\Pi Ux\|_2^2\le (1+\epsilon)\|Ux\|_2^2</math>。并解释为什么第 (6) 问中的 Frobenius norm bound 足以推出 spectral norm bound。
#总结：说明 CountSketch 虽然每一列只有一个非零元素，但当 <math>m=O(d^2/(\epsilon^2\delta))</math> 时，仍然可以作为一个 <math>d</math> 维子空间的 Oblivious Subspace Embedding。

高级算法 (Spring 2026)/作业3

2026-06-14T14:55:21Z

Liumingmou: /* CountSketch OSE 的 m=O(d^2) 上界 */

== 低 <math>\ell_\infty</math>-norm 对高斯 JL 变换没有帮助==

令 <math>\Pi \in \mathbb R^{m\times d}</math> 是一个高斯 Johnson-Lindenstrauss 变换，其中每个元素独立服从 <math>N(0,1/m)</math>。给定任意固定单位向量 <math>x\in\mathbb S^{d-1}</math>。

#证明 <math>\Pi x</math> 的每个坐标都独立服从 <math>N(0,1/m)</math>。
#证明 <math>\|\Pi x\|_2^2</math> 与 <math>\frac{1}{m}\chi_m^2</math> 同分布。因此 <math>\|\Pi x\|_2</math> 的分布与 <math>\|x\|_\infty</math> 无关。
#解释为什么如果使用高斯 JL 变换，即使 <math>x</math> 满足很强的平坦性条件，例如 <math>\|x\|_\infty \le O(1/\sqrt d)</math>，为了保证 <math>\mathbb P[\|\Pi x\|_2^2-1|>\epsilon]\le \delta</math>，所需的目标维数仍然是 <math>m=\Theta(\epsilon^{-2}\log(1/\delta))</math>。
#对比坐标采样型（即 <math>\Pi x</math>直接随机输出 <math>x</math>的某几个维度）降维，简要解释为什么低 <math>\ell_\infty</math>-norm 对坐标采样有帮助，但对高斯 JL 变换没有帮助。

==torus 上的随机网格 LSH==

考虑 metric space <math>( [0,n]^d,d_{\mathrm{torus}} )</math>，其中距离定义为 <math>d_{\mathrm{torus}}(x,y)=\sqrt{\sum_{i=1}^d \min{|x_i-y_i|,n-|x_i-y_i|}^2}</math>。给定网格宽度 <math>w>0</math>。随机选择平移向量 <math>s\in[0,w)^d</math>，并定义 hash function <math>h_s(x)=(\lfloor (x_1+s_1)/w\rfloor,\dots,\lfloor (x_d+s_d)/w\rfloor)</math>，其中每个坐标都按照 torus 的方式取模。

#对于两个点 <math>x,y\in[0,n]^d</math>，记 <math>\Delta_i=\min\{|x_i-y_i|,n-|x_i-y_i|\}</math>。证明如果对所有 <math>i</math> 都有 <math>\Delta_i<w</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]=\prod_{i=1}^d (1-\Delta_i/w)</math>。
#证明如果 <math>d_{\mathrm{torus}}(x,y)\le r</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]\ge 1-\sqrt d,r/w</math>。提示：可以使用 <math>\sum_i\Delta_i\le \sqrt d\sqrt{\sum_i\Delta_i^2}</math>。
#解释为什么这个 LSH family 的随机桶可以看成随机平移后的 axis-aligned cube。请从“近点容易落在同一个随机集合中，远点不容易落在同一个随机集合中”的角度解释这个构造的直觉。
#讨论这个构造在高维空间中的局限性。特别地，当距离 <math>d_{\mathrm{torus}}(x,y)</math> 分散在很多个坐标上时，为什么随机网格更容易把 <math>x</math> 和 <math>y</math> 切开？
#设 <math>x,y</math> 只在一个坐标上相差 <math>r</math>，其他坐标完全相同。计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>。
#设 <math>x,y</math> 在每个坐标上都相差 <math>r/\sqrt d</math>，因此 <math>d_{\mathrm{torus}}(x,y)=r</math>。在 <math>r/\sqrt d<w</math> 的条件下，计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>，并将其写成 <math>(1-r/(w\sqrt d))^d</math> 的形式。
#比较上述两种情况。说明即使两对点的 torus 距离都等于 <math>r</math>，随机网格 LSH 的碰撞概率仍然可能不同。
#解释这说明了什么：axis-aligned grid LSH 并不是只依赖于欧氏距离的完美 LSH family，而是会受到坐标方向和维数的影响。

==球面上的随机超平面 LSH==

考虑球面空间 <math>(\mathbb S^{d-1},d)</math>，其中距离定义为 <math>d(x,y)=\arccos\langle x,y\rangle</math>。随机选择 <math>g\sim N(0,I_d)</math>，并定义 hash function <math>h_g(x)=\operatorname{sign}\langle g,x\rangle</math>。

#对任意 <math>x,y\in\mathbb S^{d-1}</math>，令 <math>\theta=\arccos\langle x,y\rangle</math>。证明 <math>\mathbb P[h_g(x)=h_g(y)]=1-\theta/\pi</math>。
#解释上述公式的几何直觉：随机超平面什么时候会把 <math>x</math> 和 <math>y</math> 分到两侧？
#现在使用 <math>k</math> 个独立随机超平面 <math>g_1,\dots,g_k</math>，并定义组合 hash key 为 <math>H(x)=(h_{g_1}(x),\dots,h_{g_k}(x))</math>。证明 <math>\mathbb P[H(x)=H(y)]=(1-\theta/\pi)^k</math>。
#给定两个角度阈值 <math>0<\theta_1<\theta_2<\pi</math>。令近点满足 <math>d(x,y)\le \theta_1</math>，远点满足 <math>d(x,y)\ge \theta_2</math>。写出这个 LSH family 的参数 <math>p_1</math> 和 <math>p_2</math>，并推导标准 LSH exponent <math>\rho=\log(1/p_1)/\log(1/p_2)</math>。

==由范数保持推出内积保持==

设线性映射 <math>\Pi</math> 对向量集合 <math>{x,y,x+y,x-y}</math> 都保持平方范数，即对所有 <math>v\in{x,y,x+y,x-y}</math> 都有 <math>(1-\epsilon)\|v\|_2^2\le \|\Pi v\|_2^2\le (1+\epsilon)\|v\|_2^2</math>。

#使用恒等式 <math>\langle x,y\rangle=(\|x+y\|_2^2-\|x-y\|_2^2)/4</math>，证明 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)(\|x\|_2^2+\|y\|_2^2)</math>。
# 在 <math>\|x\|_2=\|y\|_2=1</math> 的情况下，将上式化简为 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
# 解释为什么如果 JL 变换对 <math>n</math> 个点的所有两两距离都近似保持，那么这些点的两两内积也近似保持。
# 进一步讨论：如果这些点都在单位球面上，那么 JL 降维之后，球面角度 <math>\arccos\langle x,y\rangle</math> 在什么意义下也被近似保持？

==从阈值版 Approximate Near Neighbor 到 Approximate Nearest Neighbor==

假设你有一个阈值版 Approximate Near Neighbor 黑盒。给定半径 <math>r</math> 和查询点 <math>q</math>，如果数据集 <math>P</math> 中存在点 <math>p</math> 满足 <math>|p-q|\le r</math>，那么黑盒会返回某个点 <math>p'</math>，并保证 <math>|p'-q|\le a r</math>。

现在希望用这个黑盒解决普通 Approximate Nearest Neighbor 问题。设真正最近邻距离为 <math>d^\star=\min_{p\in P}|p-q|</math>。我们建立一组半径 <math>r_0,r_1,r_2,\dots</math>，满足 <math>r_{i+1}=b r_i</math>。查询时，从小到大尝试这些半径，并返回第一个成功的黑盒查询结果。

#证明最终得到的近似比至多为 <math>ab</math>。
#如果希望最终得到 <math>c</math>-approximate nearest neighbor，应该如何选择 <math>a</math> 和 <math>b</math>？
#解释为什么常见做法中，会把阈值版 ANN 黑盒的 approximate ratio 从 <math>c</math> 设置为 <math>\sqrt c</math>。
#如果最近邻距离的可能范围被限制在 <math>[1,\Delta]</math> 中，分析需要建立多少个半径层级。

==先用 JL 降维，再做随机超平面 LSH==

设 <math>P\subseteq\mathbb S^{d-1}</math> 是 <math>n</math> 个单位向量。令 <math>\Pi:\mathbb R^d\to\mathbb R^m</math> 是一个 JL transform，并假设对所有 <math>x,y\in P</math>，都有 <math>\left|\|\Pi x-\Pi y\|_2^2-\|x-y\|_2^2\right|\le \epsilon</math>。同时假设对所有 <math>x\in P</math>，都有 <math>\left|\|\Pi x\|_2^2-1\right|\le \epsilon</math>。

#证明对所有 <math>x,y\in P</math>，都有 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
#令 <math>\theta=\arccos\langle x,y\rangle</math>，并令 <math>\widetilde\theta=\arccos(\langle \Pi x,\Pi y\rangle/(\|\Pi x\|_2\|\Pi y\|_2))</math>。在 <math>\theta</math> 不太接近 <math>0</math> 或 <math>\pi</math> 的情况下，给出 <math>|\theta-\widetilde\theta|</math> 的上界。
#解释为什么可以先对数据集 <math>P</math> 做 JL 降维，再在低维空间中使用随机超平面 LSH。
#讨论当两个点的夹角非常小时，为什么需要更小的 JL 误差才能保证角度的相对误差较好。

==为什么 CountSketch 需要随机符号==

考虑一个没有随机符号的 CountSketch。对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并令 <math>\Pi_{h(i),i}=1</math>，其他位置为 <math>0</math>。
取向量 <math>x=(1,1,\dots,1)/\sqrt n</math>。

#证明 <math>\mathbb E\|\Pi x\|_2^2=1+(n-1)/m</math>。
#说明如果 <math>m=o(n)</math>，那么这个没有随机符号的 sketch 对该向量的范数估计会有严重偏差。
#现在考虑标准 CountSketch：对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>，令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。解释随机符号 <math>\sigma_i</math> 如何使不同坐标碰撞产生的交叉项在期望中相互抵消。
#总结随机符号在 CountSketch 中的作用：它并不能避免碰撞，但可以让碰撞带来的误差成为均值为零的随机噪声。

==CountSketch OSE 的 <math>m=O(d^2)</math> 上界==

令 <math>U\in\mathbb R^{n\times d}</math> 是一个列正交矩阵，即 <math>U^\top U=I_d</math>。令 <math>\Pi\in\mathbb R^{m\times n}</math> 是 CountSketch 矩阵：对每个原始坐标 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>；然后令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。记 <math>u_i</math> 为 <math>U</math> 的第 <math>i</math> 行，视为 <math>\mathbb R^d</math> 中的列向量。

#证明 <math>\Pi^\top\Pi-I_n</math> 的第 <math>(i,j)</math> 个元素在 <math>i\ne j</math> 时等于 <math>\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j</math>，在 <math>i=j</math> 时等于 <math>0</math>。
#推出 <math>U^\top\Pi^\top\Pi U-I_d=\sum_{i\ne j:h(i)=h(j)}\sigma_i\sigma_j u_i u_j^\top</math>。
#证明在计算 <math>\mathbb E[\|U^\top\Pi^\top\Pi U-I_d\|_F^2]</math> 时，随机符号会使所有交叉项的期望为 <math>0</math>。也就是说，只有同一对 <math>(i,j)</math> 与自身相乘的项会保留下来。
#证明 <math>\mathbb E[\|U^\top\Pi^\top\Pi U-I_d\|_F^2]\le \frac{1}{m}\sum_{i\ne j}|u_i|_2^2|u_j|_2^2</math>。
#使用 <math>\sum_i|u_i|_2^2=|U|_F^2=d</math>，证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]\le d^2/m</math>。
#用 Markov 不等式证明，如果 <math>m\ge d^2/(\epsilon^2\delta)</math>，那么以概率至少 <math>1-\delta</math>，有 <math>\|U^\top\Pi^\top\Pi U-I_d\|_F\le \epsilon</math>。
#证明如果 <math>\|U^\top\Pi^\top\Pi U-I_d\|_2\le \epsilon</math>，那么对所有 <math>x\in\mathbb R^d</math> 都有 <math>(1-\epsilon)\|Ux\|_2^2\le \|\Pi Ux\|_2^2\le (1+\epsilon)\|Ux\|_2^2</math>。并解释为什么第 (6) 问中的 Frobenius norm bound 足以推出 spectral norm bound。
#总结：说明 CountSketch 虽然每一列只有一个非零元素，但当 <math>m=O(d^2/(\epsilon^2\delta))</math> 时，仍然可以作为一个 <math>d</math> 维子空间的 Oblivious Subspace Embedding。

高级算法 (Spring 2026)/作业3

2026-06-14T14:54:08Z

Liumingmou: /* CountSketch OSE 的 m=O(d^2) 上界 */

== 低 <math>\ell_\infty</math>-norm 对高斯 JL 变换没有帮助==

令 <math>\Pi \in \mathbb R^{m\times d}</math> 是一个高斯 Johnson-Lindenstrauss 变换，其中每个元素独立服从 <math>N(0,1/m)</math>。给定任意固定单位向量 <math>x\in\mathbb S^{d-1}</math>。

#证明 <math>\Pi x</math> 的每个坐标都独立服从 <math>N(0,1/m)</math>。
#证明 <math>\|\Pi x\|_2^2</math> 与 <math>\frac{1}{m}\chi_m^2</math> 同分布。因此 <math>\|\Pi x\|_2</math> 的分布与 <math>\|x\|_\infty</math> 无关。
#解释为什么如果使用高斯 JL 变换，即使 <math>x</math> 满足很强的平坦性条件，例如 <math>\|x\|_\infty \le O(1/\sqrt d)</math>，为了保证 <math>\mathbb P[\|\Pi x\|_2^2-1|>\epsilon]\le \delta</math>，所需的目标维数仍然是 <math>m=\Theta(\epsilon^{-2}\log(1/\delta))</math>。
#对比坐标采样型（即 <math>\Pi x</math>直接随机输出 <math>x</math>的某几个维度）降维，简要解释为什么低 <math>\ell_\infty</math>-norm 对坐标采样有帮助，但对高斯 JL 变换没有帮助。

==torus 上的随机网格 LSH==

考虑 metric space <math>( [0,n]^d,d_{\mathrm{torus}} )</math>，其中距离定义为 <math>d_{\mathrm{torus}}(x,y)=\sqrt{\sum_{i=1}^d \min{|x_i-y_i|,n-|x_i-y_i|}^2}</math>。给定网格宽度 <math>w>0</math>。随机选择平移向量 <math>s\in[0,w)^d</math>，并定义 hash function <math>h_s(x)=(\lfloor (x_1+s_1)/w\rfloor,\dots,\lfloor (x_d+s_d)/w\rfloor)</math>，其中每个坐标都按照 torus 的方式取模。

#对于两个点 <math>x,y\in[0,n]^d</math>，记 <math>\Delta_i=\min\{|x_i-y_i|,n-|x_i-y_i|\}</math>。证明如果对所有 <math>i</math> 都有 <math>\Delta_i<w</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]=\prod_{i=1}^d (1-\Delta_i/w)</math>。
#证明如果 <math>d_{\mathrm{torus}}(x,y)\le r</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]\ge 1-\sqrt d,r/w</math>。提示：可以使用 <math>\sum_i\Delta_i\le \sqrt d\sqrt{\sum_i\Delta_i^2}</math>。
#解释为什么这个 LSH family 的随机桶可以看成随机平移后的 axis-aligned cube。请从“近点容易落在同一个随机集合中，远点不容易落在同一个随机集合中”的角度解释这个构造的直觉。
#讨论这个构造在高维空间中的局限性。特别地，当距离 <math>d_{\mathrm{torus}}(x,y)</math> 分散在很多个坐标上时，为什么随机网格更容易把 <math>x</math> 和 <math>y</math> 切开？
#设 <math>x,y</math> 只在一个坐标上相差 <math>r</math>，其他坐标完全相同。计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>。
#设 <math>x,y</math> 在每个坐标上都相差 <math>r/\sqrt d</math>，因此 <math>d_{\mathrm{torus}}(x,y)=r</math>。在 <math>r/\sqrt d<w</math> 的条件下，计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>，并将其写成 <math>(1-r/(w\sqrt d))^d</math> 的形式。
#比较上述两种情况。说明即使两对点的 torus 距离都等于 <math>r</math>，随机网格 LSH 的碰撞概率仍然可能不同。
#解释这说明了什么：axis-aligned grid LSH 并不是只依赖于欧氏距离的完美 LSH family，而是会受到坐标方向和维数的影响。

==球面上的随机超平面 LSH==

考虑球面空间 <math>(\mathbb S^{d-1},d)</math>，其中距离定义为 <math>d(x,y)=\arccos\langle x,y\rangle</math>。随机选择 <math>g\sim N(0,I_d)</math>，并定义 hash function <math>h_g(x)=\operatorname{sign}\langle g,x\rangle</math>。

#对任意 <math>x,y\in\mathbb S^{d-1}</math>，令 <math>\theta=\arccos\langle x,y\rangle</math>。证明 <math>\mathbb P[h_g(x)=h_g(y)]=1-\theta/\pi</math>。
#解释上述公式的几何直觉：随机超平面什么时候会把 <math>x</math> 和 <math>y</math> 分到两侧？
#现在使用 <math>k</math> 个独立随机超平面 <math>g_1,\dots,g_k</math>，并定义组合 hash key 为 <math>H(x)=(h_{g_1}(x),\dots,h_{g_k}(x))</math>。证明 <math>\mathbb P[H(x)=H(y)]=(1-\theta/\pi)^k</math>。
#给定两个角度阈值 <math>0<\theta_1<\theta_2<\pi</math>。令近点满足 <math>d(x,y)\le \theta_1</math>，远点满足 <math>d(x,y)\ge \theta_2</math>。写出这个 LSH family 的参数 <math>p_1</math> 和 <math>p_2</math>，并推导标准 LSH exponent <math>\rho=\log(1/p_1)/\log(1/p_2)</math>。

==由范数保持推出内积保持==

设线性映射 <math>\Pi</math> 对向量集合 <math>{x,y,x+y,x-y}</math> 都保持平方范数，即对所有 <math>v\in{x,y,x+y,x-y}</math> 都有 <math>(1-\epsilon)\|v\|_2^2\le \|\Pi v\|_2^2\le (1+\epsilon)\|v\|_2^2</math>。

#使用恒等式 <math>\langle x,y\rangle=(\|x+y\|_2^2-\|x-y\|_2^2)/4</math>，证明 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)(\|x\|_2^2+\|y\|_2^2)</math>。
# 在 <math>\|x\|_2=\|y\|_2=1</math> 的情况下，将上式化简为 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
# 解释为什么如果 JL 变换对 <math>n</math> 个点的所有两两距离都近似保持，那么这些点的两两内积也近似保持。
# 进一步讨论：如果这些点都在单位球面上，那么 JL 降维之后，球面角度 <math>\arccos\langle x,y\rangle</math> 在什么意义下也被近似保持？

==从阈值版 Approximate Near Neighbor 到 Approximate Nearest Neighbor==

假设你有一个阈值版 Approximate Near Neighbor 黑盒。给定半径 <math>r</math> 和查询点 <math>q</math>，如果数据集 <math>P</math> 中存在点 <math>p</math> 满足 <math>|p-q|\le r</math>，那么黑盒会返回某个点 <math>p'</math>，并保证 <math>|p'-q|\le a r</math>。

现在希望用这个黑盒解决普通 Approximate Nearest Neighbor 问题。设真正最近邻距离为 <math>d^\star=\min_{p\in P}|p-q|</math>。我们建立一组半径 <math>r_0,r_1,r_2,\dots</math>，满足 <math>r_{i+1}=b r_i</math>。查询时，从小到大尝试这些半径，并返回第一个成功的黑盒查询结果。

#证明最终得到的近似比至多为 <math>ab</math>。
#如果希望最终得到 <math>c</math>-approximate nearest neighbor，应该如何选择 <math>a</math> 和 <math>b</math>？
#解释为什么常见做法中，会把阈值版 ANN 黑盒的 approximate ratio 从 <math>c</math> 设置为 <math>\sqrt c</math>。
#如果最近邻距离的可能范围被限制在 <math>[1,\Delta]</math> 中，分析需要建立多少个半径层级。

==先用 JL 降维，再做随机超平面 LSH==

设 <math>P\subseteq\mathbb S^{d-1}</math> 是 <math>n</math> 个单位向量。令 <math>\Pi:\mathbb R^d\to\mathbb R^m</math> 是一个 JL transform，并假设对所有 <math>x,y\in P</math>，都有 <math>\left|\|\Pi x-\Pi y\|_2^2-\|x-y\|_2^2\right|\le \epsilon</math>。同时假设对所有 <math>x\in P</math>，都有 <math>\left|\|\Pi x\|_2^2-1\right|\le \epsilon</math>。

#证明对所有 <math>x,y\in P</math>，都有 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
#令 <math>\theta=\arccos\langle x,y\rangle</math>，并令 <math>\widetilde\theta=\arccos(\langle \Pi x,\Pi y\rangle/(\|\Pi x\|_2\|\Pi y\|_2))</math>。在 <math>\theta</math> 不太接近 <math>0</math> 或 <math>\pi</math> 的情况下，给出 <math>|\theta-\widetilde\theta|</math> 的上界。
#解释为什么可以先对数据集 <math>P</math> 做 JL 降维，再在低维空间中使用随机超平面 LSH。
#讨论当两个点的夹角非常小时，为什么需要更小的 JL 误差才能保证角度的相对误差较好。

==为什么 CountSketch 需要随机符号==

考虑一个没有随机符号的 CountSketch。对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并令 <math>\Pi_{h(i),i}=1</math>，其他位置为 <math>0</math>。
取向量 <math>x=(1,1,\dots,1)/\sqrt n</math>。

#证明 <math>\mathbb E\|\Pi x\|_2^2=1+(n-1)/m</math>。
#说明如果 <math>m=o(n)</math>，那么这个没有随机符号的 sketch 对该向量的范数估计会有严重偏差。
#现在考虑标准 CountSketch：对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>，令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。解释随机符号 <math>\sigma_i</math> 如何使不同坐标碰撞产生的交叉项在期望中相互抵消。
#总结随机符号在 CountSketch 中的作用：它并不能避免碰撞，但可以让碰撞带来的误差成为均值为零的随机噪声。

==CountSketch OSE 的 <math>m=O(d^2)</math> 上界==

令 <math>U\in\mathbb R^{n\times d}</math> 是一个列正交矩阵，即 <math>U^\top U=I_d</math>。令 <math>\Pi\in\mathbb R^{m\times n}</math> 是 CountSketch 矩阵：对每个原始坐标 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>；然后令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。记 <math>u_i</math> 为 <math>U</math> 的第 <math>i</math> 行，视为 <math>\mathbb R^d</math> 中的列向量。

#证明 <math>\Pi^\top\Pi-I_n</math> 的第 <math>(i,j)</math> 个元素在 <math>i\ne j</math> 时等于 <math>\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j</math>，在 <math>i=j</math> 时等于 <math>0</math>。
#推出 <math>U^\top\Pi^\top\Pi U-I_d=\sum_{i\ne j}\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j u_i u_j^\top</math>。
#证明在计算 <math>\mathbb E[\|U^\top\Pi^\top\Pi U-I_d\|_F^2]</math> 时，随机符号会使所有交叉项的期望为 <math>0</math>。也就是说，只有同一对 <math>(i,j)</math> 与自身相乘的项会保留下来。
#证明 <math>\mathbb E[\|U^\top\Pi^\top\Pi U-I_d\|_F^2]\le \frac{1}{m}\sum_{i\ne j}|u_i|_2^2|u_j|_2^2</math>。
#使用 <math>\sum_i|u_i|_2^2=|U|_F^2=d</math>，证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]\le d^2/m</math>。
#用 Markov 不等式证明，如果 <math>m\ge d^2/(\epsilon^2\delta)</math>，那么以概率至少 <math>1-\delta</math>，有 <math>\|U^\top\Pi^\top\Pi U-I_d\|_F\le \epsilon</math>。
#证明如果 <math>\|U^\top\Pi^\top\Pi U-I_d\|_2\le \epsilon</math>，那么对所有 <math>x\in\mathbb R^d</math> 都有 <math>(1-\epsilon)\|Ux\|_2^2\le \|\Pi Ux\|_2^2\le (1+\epsilon)\|Ux\|_2^2</math>。并解释为什么第 (6) 问中的 Frobenius norm bound 足以推出 spectral norm bound。
#总结：说明 CountSketch 虽然每一列只有一个非零元素，但当 <math>m=O(d^2/(\epsilon^2\delta))</math> 时，仍然可以作为一个 <math>d</math> 维子空间的 Oblivious Subspace Embedding。

高级算法 (Spring 2026)/作业3

2026-06-14T14:51:32Z

Liumingmou: /* 为什么 CountSketch 需要随机符号 */

== 低 <math>\ell_\infty</math>-norm 对高斯 JL 变换没有帮助==

令 <math>\Pi \in \mathbb R^{m\times d}</math> 是一个高斯 Johnson-Lindenstrauss 变换，其中每个元素独立服从 <math>N(0,1/m)</math>。给定任意固定单位向量 <math>x\in\mathbb S^{d-1}</math>。

#证明 <math>\Pi x</math> 的每个坐标都独立服从 <math>N(0,1/m)</math>。
#证明 <math>\|\Pi x\|_2^2</math> 与 <math>\frac{1}{m}\chi_m^2</math> 同分布。因此 <math>\|\Pi x\|_2</math> 的分布与 <math>\|x\|_\infty</math> 无关。
#解释为什么如果使用高斯 JL 变换，即使 <math>x</math> 满足很强的平坦性条件，例如 <math>\|x\|_\infty \le O(1/\sqrt d)</math>，为了保证 <math>\mathbb P[\|\Pi x\|_2^2-1|>\epsilon]\le \delta</math>，所需的目标维数仍然是 <math>m=\Theta(\epsilon^{-2}\log(1/\delta))</math>。
#对比坐标采样型（即 <math>\Pi x</math>直接随机输出 <math>x</math>的某几个维度）降维，简要解释为什么低 <math>\ell_\infty</math>-norm 对坐标采样有帮助，但对高斯 JL 变换没有帮助。

==torus 上的随机网格 LSH==

考虑 metric space <math>( [0,n]^d,d_{\mathrm{torus}} )</math>，其中距离定义为 <math>d_{\mathrm{torus}}(x,y)=\sqrt{\sum_{i=1}^d \min{|x_i-y_i|,n-|x_i-y_i|}^2}</math>。给定网格宽度 <math>w>0</math>。随机选择平移向量 <math>s\in[0,w)^d</math>，并定义 hash function <math>h_s(x)=(\lfloor (x_1+s_1)/w\rfloor,\dots,\lfloor (x_d+s_d)/w\rfloor)</math>，其中每个坐标都按照 torus 的方式取模。

#对于两个点 <math>x,y\in[0,n]^d</math>，记 <math>\Delta_i=\min\{|x_i-y_i|,n-|x_i-y_i|\}</math>。证明如果对所有 <math>i</math> 都有 <math>\Delta_i<w</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]=\prod_{i=1}^d (1-\Delta_i/w)</math>。
#证明如果 <math>d_{\mathrm{torus}}(x,y)\le r</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]\ge 1-\sqrt d,r/w</math>。提示：可以使用 <math>\sum_i\Delta_i\le \sqrt d\sqrt{\sum_i\Delta_i^2}</math>。
#解释为什么这个 LSH family 的随机桶可以看成随机平移后的 axis-aligned cube。请从“近点容易落在同一个随机集合中，远点不容易落在同一个随机集合中”的角度解释这个构造的直觉。
#讨论这个构造在高维空间中的局限性。特别地，当距离 <math>d_{\mathrm{torus}}(x,y)</math> 分散在很多个坐标上时，为什么随机网格更容易把 <math>x</math> 和 <math>y</math> 切开？
#设 <math>x,y</math> 只在一个坐标上相差 <math>r</math>，其他坐标完全相同。计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>。
#设 <math>x,y</math> 在每个坐标上都相差 <math>r/\sqrt d</math>，因此 <math>d_{\mathrm{torus}}(x,y)=r</math>。在 <math>r/\sqrt d<w</math> 的条件下，计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>，并将其写成 <math>(1-r/(w\sqrt d))^d</math> 的形式。
#比较上述两种情况。说明即使两对点的 torus 距离都等于 <math>r</math>，随机网格 LSH 的碰撞概率仍然可能不同。
#解释这说明了什么：axis-aligned grid LSH 并不是只依赖于欧氏距离的完美 LSH family，而是会受到坐标方向和维数的影响。

==球面上的随机超平面 LSH==

考虑球面空间 <math>(\mathbb S^{d-1},d)</math>，其中距离定义为 <math>d(x,y)=\arccos\langle x,y\rangle</math>。随机选择 <math>g\sim N(0,I_d)</math>，并定义 hash function <math>h_g(x)=\operatorname{sign}\langle g,x\rangle</math>。

#对任意 <math>x,y\in\mathbb S^{d-1}</math>，令 <math>\theta=\arccos\langle x,y\rangle</math>。证明 <math>\mathbb P[h_g(x)=h_g(y)]=1-\theta/\pi</math>。
#解释上述公式的几何直觉：随机超平面什么时候会把 <math>x</math> 和 <math>y</math> 分到两侧？
#现在使用 <math>k</math> 个独立随机超平面 <math>g_1,\dots,g_k</math>，并定义组合 hash key 为 <math>H(x)=(h_{g_1}(x),\dots,h_{g_k}(x))</math>。证明 <math>\mathbb P[H(x)=H(y)]=(1-\theta/\pi)^k</math>。
#给定两个角度阈值 <math>0<\theta_1<\theta_2<\pi</math>。令近点满足 <math>d(x,y)\le \theta_1</math>，远点满足 <math>d(x,y)\ge \theta_2</math>。写出这个 LSH family 的参数 <math>p_1</math> 和 <math>p_2</math>，并推导标准 LSH exponent <math>\rho=\log(1/p_1)/\log(1/p_2)</math>。

==由范数保持推出内积保持==

设线性映射 <math>\Pi</math> 对向量集合 <math>{x,y,x+y,x-y}</math> 都保持平方范数，即对所有 <math>v\in{x,y,x+y,x-y}</math> 都有 <math>(1-\epsilon)\|v\|_2^2\le \|\Pi v\|_2^2\le (1+\epsilon)\|v\|_2^2</math>。

#使用恒等式 <math>\langle x,y\rangle=(\|x+y\|_2^2-\|x-y\|_2^2)/4</math>，证明 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)(\|x\|_2^2+\|y\|_2^2)</math>。
# 在 <math>\|x\|_2=\|y\|_2=1</math> 的情况下，将上式化简为 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
# 解释为什么如果 JL 变换对 <math>n</math> 个点的所有两两距离都近似保持，那么这些点的两两内积也近似保持。
# 进一步讨论：如果这些点都在单位球面上，那么 JL 降维之后，球面角度 <math>\arccos\langle x,y\rangle</math> 在什么意义下也被近似保持？

==从阈值版 Approximate Near Neighbor 到 Approximate Nearest Neighbor==

假设你有一个阈值版 Approximate Near Neighbor 黑盒。给定半径 <math>r</math> 和查询点 <math>q</math>，如果数据集 <math>P</math> 中存在点 <math>p</math> 满足 <math>|p-q|\le r</math>，那么黑盒会返回某个点 <math>p'</math>，并保证 <math>|p'-q|\le a r</math>。

现在希望用这个黑盒解决普通 Approximate Nearest Neighbor 问题。设真正最近邻距离为 <math>d^\star=\min_{p\in P}|p-q|</math>。我们建立一组半径 <math>r_0,r_1,r_2,\dots</math>，满足 <math>r_{i+1}=b r_i</math>。查询时，从小到大尝试这些半径，并返回第一个成功的黑盒查询结果。

#证明最终得到的近似比至多为 <math>ab</math>。
#如果希望最终得到 <math>c</math>-approximate nearest neighbor，应该如何选择 <math>a</math> 和 <math>b</math>？
#解释为什么常见做法中，会把阈值版 ANN 黑盒的 approximate ratio 从 <math>c</math> 设置为 <math>\sqrt c</math>。
#如果最近邻距离的可能范围被限制在 <math>[1,\Delta]</math> 中，分析需要建立多少个半径层级。

==先用 JL 降维，再做随机超平面 LSH==

设 <math>P\subseteq\mathbb S^{d-1}</math> 是 <math>n</math> 个单位向量。令 <math>\Pi:\mathbb R^d\to\mathbb R^m</math> 是一个 JL transform，并假设对所有 <math>x,y\in P</math>，都有 <math>\left|\|\Pi x-\Pi y\|_2^2-\|x-y\|_2^2\right|\le \epsilon</math>。同时假设对所有 <math>x\in P</math>，都有 <math>\left|\|\Pi x\|_2^2-1\right|\le \epsilon</math>。

#证明对所有 <math>x,y\in P</math>，都有 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
#令 <math>\theta=\arccos\langle x,y\rangle</math>，并令 <math>\widetilde\theta=\arccos(\langle \Pi x,\Pi y\rangle/(\|\Pi x\|_2\|\Pi y\|_2))</math>。在 <math>\theta</math> 不太接近 <math>0</math> 或 <math>\pi</math> 的情况下，给出 <math>|\theta-\widetilde\theta|</math> 的上界。
#解释为什么可以先对数据集 <math>P</math> 做 JL 降维，再在低维空间中使用随机超平面 LSH。
#讨论当两个点的夹角非常小时，为什么需要更小的 JL 误差才能保证角度的相对误差较好。

==为什么 CountSketch 需要随机符号==

考虑一个没有随机符号的 CountSketch。对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并令 <math>\Pi_{h(i),i}=1</math>，其他位置为 <math>0</math>。
取向量 <math>x=(1,1,\dots,1)/\sqrt n</math>。

#证明 <math>\mathbb E\|\Pi x\|_2^2=1+(n-1)/m</math>。
#说明如果 <math>m=o(n)</math>，那么这个没有随机符号的 sketch 对该向量的范数估计会有严重偏差。
#现在考虑标准 CountSketch：对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in\{-1,1\}</math>，令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。解释随机符号 <math>\sigma_i</math> 如何使不同坐标碰撞产生的交叉项在期望中相互抵消。
#总结随机符号在 CountSketch 中的作用：它并不能避免碰撞，但可以让碰撞带来的误差成为均值为零的随机噪声。

==CountSketch OSE 的 <math>m=O(d^2)</math> 上界==

令 <math>U\in\mathbb R^{n\times d}</math> 是一个列正交矩阵，即 <math>U^\top U=I_d</math>。令 <math>\Pi\in\mathbb R^{m\times n}</math> 是 CountSketch 矩阵：对每个原始坐标 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in{-1,1}</math>；然后令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。记 <math>u_i</math> 为 <math>U</math> 的第 <math>i</math> 行，视为 <math>\mathbb R^d</math> 中的列向量。

(1) 证明 <math>\Pi^\top\Pi-I_n</math> 的第 <math>(i,j)</math> 个元素在 <math>i\ne j</math> 时等于 <math>\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j</math>，在 <math>i=j</math> 时等于 <math>0</math>。

(2) 推出 <math>U^\top\Pi^\top\Pi U-I_d=\sum_{i\ne j}\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j u_i u_j^\top</math>。

(3) 证明在计算 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]</math> 时，随机符号会使所有交叉项的期望为 <math>0</math>。也就是说，只有同一对 <math>(i,j)</math> 与自身相乘的项会保留下来。

(4) 证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|*F^2]\le \frac{1}{m}\sum*{i\ne j}|u_i|_2^2|u_j|_2^2</math>。

(5) 使用 <math>\sum_i|u_i|_2^2=|U|_F^2=d</math>，证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]\le d^2/m</math>。

(6) 用 Markov 不等式证明，如果 <math>m\ge d^2/(\epsilon^2\delta)</math>，那么以概率至少 <math>1-\delta</math>，有 <math>|U^\top\Pi^\top\Pi U-I_d|_F\le \epsilon</math>。

(7) 证明如果 <math>|U^\top\Pi^\top\Pi U-I_d|_2\le \epsilon</math>，那么对所有 <math>x\in\mathbb R^d</math> 都有 <math>(1-\epsilon)|Ux|_2^2\le |\Pi Ux|_2^2\le (1+\epsilon)|Ux|_2^2</math>。并解释为什么第 (6) 问中的 Frobenius norm bound 足以推出 spectral norm bound。

(8) 总结：说明 CountSketch 虽然每一列只有一个非零元素，但当 <math>m=O(d^2/(\epsilon^2\delta))</math> 时，仍然可以作为一个 <math>d</math> 维子空间的 Oblivious Subspace Embedding。

高级算法 (Spring 2026)/作业3

2026-06-14T14:50:17Z

Liumingmou: /* 先用 JL 降维，再做随机超平面 LSH */

== 低 <math>\ell_\infty</math>-norm 对高斯 JL 变换没有帮助==

令 <math>\Pi \in \mathbb R^{m\times d}</math> 是一个高斯 Johnson-Lindenstrauss 变换，其中每个元素独立服从 <math>N(0,1/m)</math>。给定任意固定单位向量 <math>x\in\mathbb S^{d-1}</math>。

#证明 <math>\Pi x</math> 的每个坐标都独立服从 <math>N(0,1/m)</math>。
#证明 <math>\|\Pi x\|_2^2</math> 与 <math>\frac{1}{m}\chi_m^2</math> 同分布。因此 <math>\|\Pi x\|_2</math> 的分布与 <math>\|x\|_\infty</math> 无关。
#解释为什么如果使用高斯 JL 变换，即使 <math>x</math> 满足很强的平坦性条件，例如 <math>\|x\|_\infty \le O(1/\sqrt d)</math>，为了保证 <math>\mathbb P[\|\Pi x\|_2^2-1|>\epsilon]\le \delta</math>，所需的目标维数仍然是 <math>m=\Theta(\epsilon^{-2}\log(1/\delta))</math>。
#对比坐标采样型（即 <math>\Pi x</math>直接随机输出 <math>x</math>的某几个维度）降维，简要解释为什么低 <math>\ell_\infty</math>-norm 对坐标采样有帮助，但对高斯 JL 变换没有帮助。

==torus 上的随机网格 LSH==

考虑 metric space <math>( [0,n]^d,d_{\mathrm{torus}} )</math>，其中距离定义为 <math>d_{\mathrm{torus}}(x,y)=\sqrt{\sum_{i=1}^d \min{|x_i-y_i|,n-|x_i-y_i|}^2}</math>。给定网格宽度 <math>w>0</math>。随机选择平移向量 <math>s\in[0,w)^d</math>，并定义 hash function <math>h_s(x)=(\lfloor (x_1+s_1)/w\rfloor,\dots,\lfloor (x_d+s_d)/w\rfloor)</math>，其中每个坐标都按照 torus 的方式取模。

#对于两个点 <math>x,y\in[0,n]^d</math>，记 <math>\Delta_i=\min\{|x_i-y_i|,n-|x_i-y_i|\}</math>。证明如果对所有 <math>i</math> 都有 <math>\Delta_i<w</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]=\prod_{i=1}^d (1-\Delta_i/w)</math>。
#证明如果 <math>d_{\mathrm{torus}}(x,y)\le r</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]\ge 1-\sqrt d,r/w</math>。提示：可以使用 <math>\sum_i\Delta_i\le \sqrt d\sqrt{\sum_i\Delta_i^2}</math>。
#解释为什么这个 LSH family 的随机桶可以看成随机平移后的 axis-aligned cube。请从“近点容易落在同一个随机集合中，远点不容易落在同一个随机集合中”的角度解释这个构造的直觉。
#讨论这个构造在高维空间中的局限性。特别地，当距离 <math>d_{\mathrm{torus}}(x,y)</math> 分散在很多个坐标上时，为什么随机网格更容易把 <math>x</math> 和 <math>y</math> 切开？
#设 <math>x,y</math> 只在一个坐标上相差 <math>r</math>，其他坐标完全相同。计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>。
#设 <math>x,y</math> 在每个坐标上都相差 <math>r/\sqrt d</math>，因此 <math>d_{\mathrm{torus}}(x,y)=r</math>。在 <math>r/\sqrt d<w</math> 的条件下，计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>，并将其写成 <math>(1-r/(w\sqrt d))^d</math> 的形式。
#比较上述两种情况。说明即使两对点的 torus 距离都等于 <math>r</math>，随机网格 LSH 的碰撞概率仍然可能不同。
#解释这说明了什么：axis-aligned grid LSH 并不是只依赖于欧氏距离的完美 LSH family，而是会受到坐标方向和维数的影响。

==球面上的随机超平面 LSH==

考虑球面空间 <math>(\mathbb S^{d-1},d)</math>，其中距离定义为 <math>d(x,y)=\arccos\langle x,y\rangle</math>。随机选择 <math>g\sim N(0,I_d)</math>，并定义 hash function <math>h_g(x)=\operatorname{sign}\langle g,x\rangle</math>。

#对任意 <math>x,y\in\mathbb S^{d-1}</math>，令 <math>\theta=\arccos\langle x,y\rangle</math>。证明 <math>\mathbb P[h_g(x)=h_g(y)]=1-\theta/\pi</math>。
#解释上述公式的几何直觉：随机超平面什么时候会把 <math>x</math> 和 <math>y</math> 分到两侧？
#现在使用 <math>k</math> 个独立随机超平面 <math>g_1,\dots,g_k</math>，并定义组合 hash key 为 <math>H(x)=(h_{g_1}(x),\dots,h_{g_k}(x))</math>。证明 <math>\mathbb P[H(x)=H(y)]=(1-\theta/\pi)^k</math>。
#给定两个角度阈值 <math>0<\theta_1<\theta_2<\pi</math>。令近点满足 <math>d(x,y)\le \theta_1</math>，远点满足 <math>d(x,y)\ge \theta_2</math>。写出这个 LSH family 的参数 <math>p_1</math> 和 <math>p_2</math>，并推导标准 LSH exponent <math>\rho=\log(1/p_1)/\log(1/p_2)</math>。

==由范数保持推出内积保持==

设线性映射 <math>\Pi</math> 对向量集合 <math>{x,y,x+y,x-y}</math> 都保持平方范数，即对所有 <math>v\in{x,y,x+y,x-y}</math> 都有 <math>(1-\epsilon)\|v\|_2^2\le \|\Pi v\|_2^2\le (1+\epsilon)\|v\|_2^2</math>。

#使用恒等式 <math>\langle x,y\rangle=(\|x+y\|_2^2-\|x-y\|_2^2)/4</math>，证明 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)(\|x\|_2^2+\|y\|_2^2)</math>。
# 在 <math>\|x\|_2=\|y\|_2=1</math> 的情况下，将上式化简为 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
# 解释为什么如果 JL 变换对 <math>n</math> 个点的所有两两距离都近似保持，那么这些点的两两内积也近似保持。
# 进一步讨论：如果这些点都在单位球面上，那么 JL 降维之后，球面角度 <math>\arccos\langle x,y\rangle</math> 在什么意义下也被近似保持？

==从阈值版 Approximate Near Neighbor 到 Approximate Nearest Neighbor==

假设你有一个阈值版 Approximate Near Neighbor 黑盒。给定半径 <math>r</math> 和查询点 <math>q</math>，如果数据集 <math>P</math> 中存在点 <math>p</math> 满足 <math>|p-q|\le r</math>，那么黑盒会返回某个点 <math>p'</math>，并保证 <math>|p'-q|\le a r</math>。

现在希望用这个黑盒解决普通 Approximate Nearest Neighbor 问题。设真正最近邻距离为 <math>d^\star=\min_{p\in P}|p-q|</math>。我们建立一组半径 <math>r_0,r_1,r_2,\dots</math>，满足 <math>r_{i+1}=b r_i</math>。查询时，从小到大尝试这些半径，并返回第一个成功的黑盒查询结果。

#证明最终得到的近似比至多为 <math>ab</math>。
#如果希望最终得到 <math>c</math>-approximate nearest neighbor，应该如何选择 <math>a</math> 和 <math>b</math>？
#解释为什么常见做法中，会把阈值版 ANN 黑盒的 approximate ratio 从 <math>c</math> 设置为 <math>\sqrt c</math>。
#如果最近邻距离的可能范围被限制在 <math>[1,\Delta]</math> 中，分析需要建立多少个半径层级。

==先用 JL 降维，再做随机超平面 LSH==

设 <math>P\subseteq\mathbb S^{d-1}</math> 是 <math>n</math> 个单位向量。令 <math>\Pi:\mathbb R^d\to\mathbb R^m</math> 是一个 JL transform，并假设对所有 <math>x,y\in P</math>，都有 <math>\left|\|\Pi x-\Pi y\|_2^2-\|x-y\|_2^2\right|\le \epsilon</math>。同时假设对所有 <math>x\in P</math>，都有 <math>\left|\|\Pi x\|_2^2-1\right|\le \epsilon</math>。

#证明对所有 <math>x,y\in P</math>，都有 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
#令 <math>\theta=\arccos\langle x,y\rangle</math>，并令 <math>\widetilde\theta=\arccos(\langle \Pi x,\Pi y\rangle/(\|\Pi x\|_2\|\Pi y\|_2))</math>。在 <math>\theta</math> 不太接近 <math>0</math> 或 <math>\pi</math> 的情况下，给出 <math>|\theta-\widetilde\theta|</math> 的上界。
#解释为什么可以先对数据集 <math>P</math> 做 JL 降维，再在低维空间中使用随机超平面 LSH。
#讨论当两个点的夹角非常小时，为什么需要更小的 JL 误差才能保证角度的相对误差较好。

==为什么 CountSketch 需要随机符号==

考虑一个没有随机符号的 CountSketch。对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并令 <math>\Pi_{h(i),i}=1</math>，其他位置为 <math>0</math>。

取向量 <math>x=(1,1,\dots,1)/\sqrt n</math>。

(1) 证明 <math>\mathbb E|\Pi x|_2^2=1+(n-1)/m</math>。

(2) 说明如果 <math>m=o(n)</math>，那么这个没有随机符号的 sketch 对该向量的范数估计会有严重偏差。

(3) 现在考虑标准 CountSketch：对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in{-1,1}</math>，令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。解释随机符号 <math>\sigma_i</math> 如何使不同坐标碰撞产生的交叉项在期望中相互抵消。

(4) 总结随机符号在 CountSketch 中的作用：它并不能避免碰撞，但可以让碰撞带来的误差成为均值为零的随机噪声。

==CountSketch OSE 的 <math>m=O(d^2)</math> 上界==

令 <math>U\in\mathbb R^{n\times d}</math> 是一个列正交矩阵，即 <math>U^\top U=I_d</math>。令 <math>\Pi\in\mathbb R^{m\times n}</math> 是 CountSketch 矩阵：对每个原始坐标 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in{-1,1}</math>；然后令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。记 <math>u_i</math> 为 <math>U</math> 的第 <math>i</math> 行，视为 <math>\mathbb R^d</math> 中的列向量。

(1) 证明 <math>\Pi^\top\Pi-I_n</math> 的第 <math>(i,j)</math> 个元素在 <math>i\ne j</math> 时等于 <math>\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j</math>，在 <math>i=j</math> 时等于 <math>0</math>。

(2) 推出 <math>U^\top\Pi^\top\Pi U-I_d=\sum_{i\ne j}\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j u_i u_j^\top</math>。

(3) 证明在计算 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]</math> 时，随机符号会使所有交叉项的期望为 <math>0</math>。也就是说，只有同一对 <math>(i,j)</math> 与自身相乘的项会保留下来。

(4) 证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|*F^2]\le \frac{1}{m}\sum*{i\ne j}|u_i|_2^2|u_j|_2^2</math>。

(5) 使用 <math>\sum_i|u_i|_2^2=|U|_F^2=d</math>，证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]\le d^2/m</math>。

(6) 用 Markov 不等式证明，如果 <math>m\ge d^2/(\epsilon^2\delta)</math>，那么以概率至少 <math>1-\delta</math>，有 <math>|U^\top\Pi^\top\Pi U-I_d|_F\le \epsilon</math>。

(7) 证明如果 <math>|U^\top\Pi^\top\Pi U-I_d|_2\le \epsilon</math>，那么对所有 <math>x\in\mathbb R^d</math> 都有 <math>(1-\epsilon)|Ux|_2^2\le |\Pi Ux|_2^2\le (1+\epsilon)|Ux|_2^2</math>。并解释为什么第 (6) 问中的 Frobenius norm bound 足以推出 spectral norm bound。

(8) 总结：说明 CountSketch 虽然每一列只有一个非零元素，但当 <math>m=O(d^2/(\epsilon^2\delta))</math> 时，仍然可以作为一个 <math>d</math> 维子空间的 Oblivious Subspace Embedding。

高级算法 (Spring 2026)/作业3

2026-06-14T14:48:53Z

Liumingmou: /* torus 上随机网格 LSH 的维数影响 */

== 低 <math>\ell_\infty</math>-norm 对高斯 JL 变换没有帮助==

令 <math>\Pi \in \mathbb R^{m\times d}</math> 是一个高斯 Johnson-Lindenstrauss 变换，其中每个元素独立服从 <math>N(0,1/m)</math>。给定任意固定单位向量 <math>x\in\mathbb S^{d-1}</math>。

#证明 <math>\Pi x</math> 的每个坐标都独立服从 <math>N(0,1/m)</math>。
#证明 <math>\|\Pi x\|_2^2</math> 与 <math>\frac{1}{m}\chi_m^2</math> 同分布。因此 <math>\|\Pi x\|_2</math> 的分布与 <math>\|x\|_\infty</math> 无关。
#解释为什么如果使用高斯 JL 变换，即使 <math>x</math> 满足很强的平坦性条件，例如 <math>\|x\|_\infty \le O(1/\sqrt d)</math>，为了保证 <math>\mathbb P[\|\Pi x\|_2^2-1|>\epsilon]\le \delta</math>，所需的目标维数仍然是 <math>m=\Theta(\epsilon^{-2}\log(1/\delta))</math>。
#对比坐标采样型（即 <math>\Pi x</math>直接随机输出 <math>x</math>的某几个维度）降维，简要解释为什么低 <math>\ell_\infty</math>-norm 对坐标采样有帮助，但对高斯 JL 变换没有帮助。

==torus 上的随机网格 LSH==

考虑 metric space <math>( [0,n]^d,d_{\mathrm{torus}} )</math>，其中距离定义为 <math>d_{\mathrm{torus}}(x,y)=\sqrt{\sum_{i=1}^d \min{|x_i-y_i|,n-|x_i-y_i|}^2}</math>。给定网格宽度 <math>w>0</math>。随机选择平移向量 <math>s\in[0,w)^d</math>，并定义 hash function <math>h_s(x)=(\lfloor (x_1+s_1)/w\rfloor,\dots,\lfloor (x_d+s_d)/w\rfloor)</math>，其中每个坐标都按照 torus 的方式取模。

#对于两个点 <math>x,y\in[0,n]^d</math>，记 <math>\Delta_i=\min\{|x_i-y_i|,n-|x_i-y_i|\}</math>。证明如果对所有 <math>i</math> 都有 <math>\Delta_i<w</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]=\prod_{i=1}^d (1-\Delta_i/w)</math>。
#证明如果 <math>d_{\mathrm{torus}}(x,y)\le r</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]\ge 1-\sqrt d,r/w</math>。提示：可以使用 <math>\sum_i\Delta_i\le \sqrt d\sqrt{\sum_i\Delta_i^2}</math>。
#解释为什么这个 LSH family 的随机桶可以看成随机平移后的 axis-aligned cube。请从“近点容易落在同一个随机集合中，远点不容易落在同一个随机集合中”的角度解释这个构造的直觉。
#讨论这个构造在高维空间中的局限性。特别地，当距离 <math>d_{\mathrm{torus}}(x,y)</math> 分散在很多个坐标上时，为什么随机网格更容易把 <math>x</math> 和 <math>y</math> 切开？
#设 <math>x,y</math> 只在一个坐标上相差 <math>r</math>，其他坐标完全相同。计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>。
#设 <math>x,y</math> 在每个坐标上都相差 <math>r/\sqrt d</math>，因此 <math>d_{\mathrm{torus}}(x,y)=r</math>。在 <math>r/\sqrt d<w</math> 的条件下，计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>，并将其写成 <math>(1-r/(w\sqrt d))^d</math> 的形式。
#比较上述两种情况。说明即使两对点的 torus 距离都等于 <math>r</math>，随机网格 LSH 的碰撞概率仍然可能不同。
#解释这说明了什么：axis-aligned grid LSH 并不是只依赖于欧氏距离的完美 LSH family，而是会受到坐标方向和维数的影响。

==球面上的随机超平面 LSH==

考虑球面空间 <math>(\mathbb S^{d-1},d)</math>，其中距离定义为 <math>d(x,y)=\arccos\langle x,y\rangle</math>。随机选择 <math>g\sim N(0,I_d)</math>，并定义 hash function <math>h_g(x)=\operatorname{sign}\langle g,x\rangle</math>。

#对任意 <math>x,y\in\mathbb S^{d-1}</math>，令 <math>\theta=\arccos\langle x,y\rangle</math>。证明 <math>\mathbb P[h_g(x)=h_g(y)]=1-\theta/\pi</math>。
#解释上述公式的几何直觉：随机超平面什么时候会把 <math>x</math> 和 <math>y</math> 分到两侧？
#现在使用 <math>k</math> 个独立随机超平面 <math>g_1,\dots,g_k</math>，并定义组合 hash key 为 <math>H(x)=(h_{g_1}(x),\dots,h_{g_k}(x))</math>。证明 <math>\mathbb P[H(x)=H(y)]=(1-\theta/\pi)^k</math>。
#给定两个角度阈值 <math>0<\theta_1<\theta_2<\pi</math>。令近点满足 <math>d(x,y)\le \theta_1</math>，远点满足 <math>d(x,y)\ge \theta_2</math>。写出这个 LSH family 的参数 <math>p_1</math> 和 <math>p_2</math>，并推导标准 LSH exponent <math>\rho=\log(1/p_1)/\log(1/p_2)</math>。

==由范数保持推出内积保持==

设线性映射 <math>\Pi</math> 对向量集合 <math>{x,y,x+y,x-y}</math> 都保持平方范数，即对所有 <math>v\in{x,y,x+y,x-y}</math> 都有 <math>(1-\epsilon)\|v\|_2^2\le \|\Pi v\|_2^2\le (1+\epsilon)\|v\|_2^2</math>。

#使用恒等式 <math>\langle x,y\rangle=(\|x+y\|_2^2-\|x-y\|_2^2)/4</math>，证明 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)(\|x\|_2^2+\|y\|_2^2)</math>。
# 在 <math>\|x\|_2=\|y\|_2=1</math> 的情况下，将上式化简为 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
# 解释为什么如果 JL 变换对 <math>n</math> 个点的所有两两距离都近似保持，那么这些点的两两内积也近似保持。
# 进一步讨论：如果这些点都在单位球面上，那么 JL 降维之后，球面角度 <math>\arccos\langle x,y\rangle</math> 在什么意义下也被近似保持？

==从阈值版 Approximate Near Neighbor 到 Approximate Nearest Neighbor==

假设你有一个阈值版 Approximate Near Neighbor 黑盒。给定半径 <math>r</math> 和查询点 <math>q</math>，如果数据集 <math>P</math> 中存在点 <math>p</math> 满足 <math>|p-q|\le r</math>，那么黑盒会返回某个点 <math>p'</math>，并保证 <math>|p'-q|\le a r</math>。

现在希望用这个黑盒解决普通 Approximate Nearest Neighbor 问题。设真正最近邻距离为 <math>d^\star=\min_{p\in P}|p-q|</math>。我们建立一组半径 <math>r_0,r_1,r_2,\dots</math>，满足 <math>r_{i+1}=b r_i</math>。查询时，从小到大尝试这些半径，并返回第一个成功的黑盒查询结果。

#证明最终得到的近似比至多为 <math>ab</math>。
#如果希望最终得到 <math>c</math>-approximate nearest neighbor，应该如何选择 <math>a</math> 和 <math>b</math>？
#解释为什么常见做法中，会把阈值版 ANN 黑盒的 approximate ratio 从 <math>c</math> 设置为 <math>\sqrt c</math>。
#如果最近邻距离的可能范围被限制在 <math>[1,\Delta]</math> 中，分析需要建立多少个半径层级。

==先用 JL 降维，再做随机超平面 LSH==

设 <math>P\subseteq\mathbb S^{d-1}</math> 是 <math>n</math> 个单位向量。令 <math>\Pi:\mathbb R^d\to\mathbb R^m</math> 是一个 JL transform，并假设对所有 <math>x,y\in P</math>，都有 <math>||\Pi x-\Pi y|_2^2-|x-y|_2^2|\le \epsilon</math>。同时假设对所有 <math>x\in P</math>，都有 <math>||\Pi x|_2^2-1|\le \epsilon</math>。

(1) 证明对所有 <math>x,y\in P</math>，都有 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。

(2) 令 <math>\theta=\arccos\langle x,y\rangle</math>，并令 <math>\widetilde\theta=\arccos(\langle \Pi x,\Pi y\rangle/(|\Pi x|_2|\Pi y|_2))</math>。在 <math>\theta</math> 不太接近 <math>0</math> 或 <math>\pi</math> 的情况下，给出 <math>|\theta-\widetilde\theta|</math> 的上界。

(3) 解释为什么可以先对数据集 <math>P</math> 做 JL 降维，再在低维空间中使用随机超平面 LSH。

(4) 讨论当两个点的夹角非常小时，为什么需要更小的 JL 误差才能保证角度的相对误差较好。

==为什么 CountSketch 需要随机符号==

考虑一个没有随机符号的 CountSketch。对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并令 <math>\Pi_{h(i),i}=1</math>，其他位置为 <math>0</math>。

取向量 <math>x=(1,1,\dots,1)/\sqrt n</math>。

(1) 证明 <math>\mathbb E|\Pi x|_2^2=1+(n-1)/m</math>。

(2) 说明如果 <math>m=o(n)</math>，那么这个没有随机符号的 sketch 对该向量的范数估计会有严重偏差。

(3) 现在考虑标准 CountSketch：对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in{-1,1}</math>，令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。解释随机符号 <math>\sigma_i</math> 如何使不同坐标碰撞产生的交叉项在期望中相互抵消。

(4) 总结随机符号在 CountSketch 中的作用：它并不能避免碰撞，但可以让碰撞带来的误差成为均值为零的随机噪声。

==CountSketch OSE 的 <math>m=O(d^2)</math> 上界==

令 <math>U\in\mathbb R^{n\times d}</math> 是一个列正交矩阵，即 <math>U^\top U=I_d</math>。令 <math>\Pi\in\mathbb R^{m\times n}</math> 是 CountSketch 矩阵：对每个原始坐标 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in{-1,1}</math>；然后令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。记 <math>u_i</math> 为 <math>U</math> 的第 <math>i</math> 行，视为 <math>\mathbb R^d</math> 中的列向量。

(1) 证明 <math>\Pi^\top\Pi-I_n</math> 的第 <math>(i,j)</math> 个元素在 <math>i\ne j</math> 时等于 <math>\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j</math>，在 <math>i=j</math> 时等于 <math>0</math>。

(2) 推出 <math>U^\top\Pi^\top\Pi U-I_d=\sum_{i\ne j}\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j u_i u_j^\top</math>。

(3) 证明在计算 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]</math> 时，随机符号会使所有交叉项的期望为 <math>0</math>。也就是说，只有同一对 <math>(i,j)</math> 与自身相乘的项会保留下来。

(4) 证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|*F^2]\le \frac{1}{m}\sum*{i\ne j}|u_i|_2^2|u_j|_2^2</math>。

(5) 使用 <math>\sum_i|u_i|_2^2=|U|_F^2=d</math>，证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]\le d^2/m</math>。

(6) 用 Markov 不等式证明，如果 <math>m\ge d^2/(\epsilon^2\delta)</math>，那么以概率至少 <math>1-\delta</math>，有 <math>|U^\top\Pi^\top\Pi U-I_d|_F\le \epsilon</math>。

(7) 证明如果 <math>|U^\top\Pi^\top\Pi U-I_d|_2\le \epsilon</math>，那么对所有 <math>x\in\mathbb R^d</math> 都有 <math>(1-\epsilon)|Ux|_2^2\le |\Pi Ux|_2^2\le (1+\epsilon)|Ux|_2^2</math>。并解释为什么第 (6) 问中的 Frobenius norm bound 足以推出 spectral norm bound。

(8) 总结：说明 CountSketch 虽然每一列只有一个非零元素，但当 <math>m=O(d^2/(\epsilon^2\delta))</math> 时，仍然可以作为一个 <math>d</math> 维子空间的 Oblivious Subspace Embedding。

高级算法 (Spring 2026)/作业3

2026-06-14T14:48:44Z

Liumingmou: /* torus 上的随机网格 LSH */

== 低 <math>\ell_\infty</math>-norm 对高斯 JL 变换没有帮助==

令 <math>\Pi \in \mathbb R^{m\times d}</math> 是一个高斯 Johnson-Lindenstrauss 变换，其中每个元素独立服从 <math>N(0,1/m)</math>。给定任意固定单位向量 <math>x\in\mathbb S^{d-1}</math>。

#证明 <math>\Pi x</math> 的每个坐标都独立服从 <math>N(0,1/m)</math>。
#证明 <math>\|\Pi x\|_2^2</math> 与 <math>\frac{1}{m}\chi_m^2</math> 同分布。因此 <math>\|\Pi x\|_2</math> 的分布与 <math>\|x\|_\infty</math> 无关。
#解释为什么如果使用高斯 JL 变换，即使 <math>x</math> 满足很强的平坦性条件，例如 <math>\|x\|_\infty \le O(1/\sqrt d)</math>，为了保证 <math>\mathbb P[\|\Pi x\|_2^2-1|>\epsilon]\le \delta</math>，所需的目标维数仍然是 <math>m=\Theta(\epsilon^{-2}\log(1/\delta))</math>。
#对比坐标采样型（即 <math>\Pi x</math>直接随机输出 <math>x</math>的某几个维度）降维，简要解释为什么低 <math>\ell_\infty</math>-norm 对坐标采样有帮助，但对高斯 JL 变换没有帮助。

==torus 上的随机网格 LSH==

考虑 metric space <math>( [0,n]^d,d_{\mathrm{torus}} )</math>，其中距离定义为 <math>d_{\mathrm{torus}}(x,y)=\sqrt{\sum_{i=1}^d \min{|x_i-y_i|,n-|x_i-y_i|}^2}</math>。给定网格宽度 <math>w>0</math>。随机选择平移向量 <math>s\in[0,w)^d</math>，并定义 hash function <math>h_s(x)=(\lfloor (x_1+s_1)/w\rfloor,\dots,\lfloor (x_d+s_d)/w\rfloor)</math>，其中每个坐标都按照 torus 的方式取模。

#对于两个点 <math>x,y\in[0,n]^d</math>，记 <math>\Delta_i=\min\{|x_i-y_i|,n-|x_i-y_i|\}</math>。证明如果对所有 <math>i</math> 都有 <math>\Delta_i<w</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]=\prod_{i=1}^d (1-\Delta_i/w)</math>。
#证明如果 <math>d_{\mathrm{torus}}(x,y)\le r</math>，那么 <math>\mathbb P[h_s(x)=h_s(y)]\ge 1-\sqrt d,r/w</math>。提示：可以使用 <math>\sum_i\Delta_i\le \sqrt d\sqrt{\sum_i\Delta_i^2}</math>。
#解释为什么这个 LSH family 的随机桶可以看成随机平移后的 axis-aligned cube。请从“近点容易落在同一个随机集合中，远点不容易落在同一个随机集合中”的角度解释这个构造的直觉。
#讨论这个构造在高维空间中的局限性。特别地，当距离 <math>d_{\mathrm{torus}}(x,y)</math> 分散在很多个坐标上时，为什么随机网格更容易把 <math>x</math> 和 <math>y</math> 切开？
#设 <math>x,y</math> 只在一个坐标上相差 <math>r</math>，其他坐标完全相同。计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>。
#设 <math>x,y</math> 在每个坐标上都相差 <math>r/\sqrt d</math>，因此 <math>d_{\mathrm{torus}}(x,y)=r</math>。在 <math>r/\sqrt d<w</math> 的条件下，计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>，并将其写成 <math>(1-r/(w\sqrt d))^d</math> 的形式。
#比较上述两种情况。说明即使两对点的 torus 距离都等于 <math>r</math>，随机网格 LSH 的碰撞概率仍然可能不同。
#解释这说明了什么：axis-aligned grid LSH 并不是只依赖于欧氏距离的完美 LSH family，而是会受到坐标方向和维数的影响。

==球面上的随机超平面 LSH==

考虑球面空间 <math>(\mathbb S^{d-1},d)</math>，其中距离定义为 <math>d(x,y)=\arccos\langle x,y\rangle</math>。随机选择 <math>g\sim N(0,I_d)</math>，并定义 hash function <math>h_g(x)=\operatorname{sign}\langle g,x\rangle</math>。

#对任意 <math>x,y\in\mathbb S^{d-1}</math>，令 <math>\theta=\arccos\langle x,y\rangle</math>。证明 <math>\mathbb P[h_g(x)=h_g(y)]=1-\theta/\pi</math>。
#解释上述公式的几何直觉：随机超平面什么时候会把 <math>x</math> 和 <math>y</math> 分到两侧？
#现在使用 <math>k</math> 个独立随机超平面 <math>g_1,\dots,g_k</math>，并定义组合 hash key 为 <math>H(x)=(h_{g_1}(x),\dots,h_{g_k}(x))</math>。证明 <math>\mathbb P[H(x)=H(y)]=(1-\theta/\pi)^k</math>。
#给定两个角度阈值 <math>0<\theta_1<\theta_2<\pi</math>。令近点满足 <math>d(x,y)\le \theta_1</math>，远点满足 <math>d(x,y)\ge \theta_2</math>。写出这个 LSH family 的参数 <math>p_1</math> 和 <math>p_2</math>，并推导标准 LSH exponent <math>\rho=\log(1/p_1)/\log(1/p_2)</math>。

==由范数保持推出内积保持==

设线性映射 <math>\Pi</math> 对向量集合 <math>{x,y,x+y,x-y}</math> 都保持平方范数，即对所有 <math>v\in{x,y,x+y,x-y}</math> 都有 <math>(1-\epsilon)\|v\|_2^2\le \|\Pi v\|_2^2\le (1+\epsilon)\|v\|_2^2</math>。

#使用恒等式 <math>\langle x,y\rangle=(\|x+y\|_2^2-\|x-y\|_2^2)/4</math>，证明 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)(\|x\|_2^2+\|y\|_2^2)</math>。
# 在 <math>\|x\|_2=\|y\|_2=1</math> 的情况下，将上式化简为 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。
# 解释为什么如果 JL 变换对 <math>n</math> 个点的所有两两距离都近似保持，那么这些点的两两内积也近似保持。
# 进一步讨论：如果这些点都在单位球面上，那么 JL 降维之后，球面角度 <math>\arccos\langle x,y\rangle</math> 在什么意义下也被近似保持？

==从阈值版 Approximate Near Neighbor 到 Approximate Nearest Neighbor==

假设你有一个阈值版 Approximate Near Neighbor 黑盒。给定半径 <math>r</math> 和查询点 <math>q</math>，如果数据集 <math>P</math> 中存在点 <math>p</math> 满足 <math>|p-q|\le r</math>，那么黑盒会返回某个点 <math>p'</math>，并保证 <math>|p'-q|\le a r</math>。

现在希望用这个黑盒解决普通 Approximate Nearest Neighbor 问题。设真正最近邻距离为 <math>d^\star=\min_{p\in P}|p-q|</math>。我们建立一组半径 <math>r_0,r_1,r_2,\dots</math>，满足 <math>r_{i+1}=b r_i</math>。查询时，从小到大尝试这些半径，并返回第一个成功的黑盒查询结果。

#证明最终得到的近似比至多为 <math>ab</math>。
#如果希望最终得到 <math>c</math>-approximate nearest neighbor，应该如何选择 <math>a</math> 和 <math>b</math>？
#解释为什么常见做法中，会把阈值版 ANN 黑盒的 approximate ratio 从 <math>c</math> 设置为 <math>\sqrt c</math>。
#如果最近邻距离的可能范围被限制在 <math>[1,\Delta]</math> 中，分析需要建立多少个半径层级。

==torus 上随机网格 LSH 的维数影响==

继续考虑 metric space <math>( [0,n]^d,d_{\mathrm{torus}} )</math>，其中 <math>d_{\mathrm{torus}}(x,y)=\sqrt{\sum_{i=1}^d \min{|x_i-y_i|,n-|x_i-y_i|}^2}</math>。使用前述题目中的随机平移网格 hash function <math>h_s</math>，其中网格宽度为 <math>w</math>。

#设 <math>x,y</math> 只在一个坐标上相差 <math>r</math>，其他坐标完全相同。计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>。
#设 <math>x,y</math> 在每个坐标上都相差 <math>r/\sqrt d</math>，因此 <math>d_{\mathrm{torus}}(x,y)=r</math>。在 <math>r/\sqrt d<w</math> 的条件下，计算 <math>\mathbb P[h_s(x)=h_s(y)]</math>，并将其写成 <math>(1-r/(w\sqrt d))^d</math> 的形式。
#比较上述两种情况。说明即使两对点的 torus 距离都等于 <math>r</math>，随机网格 LSH 的碰撞概率仍然可能不同。
#解释这说明了什么：axis-aligned grid LSH 并不是只依赖于欧氏距离的完美 LSH family，而是会受到坐标方向和维数的影响。

==先用 JL 降维，再做随机超平面 LSH==

设 <math>P\subseteq\mathbb S^{d-1}</math> 是 <math>n</math> 个单位向量。令 <math>\Pi:\mathbb R^d\to\mathbb R^m</math> 是一个 JL transform，并假设对所有 <math>x,y\in P</math>，都有 <math>||\Pi x-\Pi y|_2^2-|x-y|_2^2|\le \epsilon</math>。同时假设对所有 <math>x\in P</math>，都有 <math>||\Pi x|_2^2-1|\le \epsilon</math>。

(1) 证明对所有 <math>x,y\in P</math>，都有 <math>|\langle \Pi x,\Pi y\rangle-\langle x,y\rangle|\le O(\epsilon)</math>。

(2) 令 <math>\theta=\arccos\langle x,y\rangle</math>，并令 <math>\widetilde\theta=\arccos(\langle \Pi x,\Pi y\rangle/(|\Pi x|_2|\Pi y|_2))</math>。在 <math>\theta</math> 不太接近 <math>0</math> 或 <math>\pi</math> 的情况下，给出 <math>|\theta-\widetilde\theta|</math> 的上界。

(3) 解释为什么可以先对数据集 <math>P</math> 做 JL 降维，再在低维空间中使用随机超平面 LSH。

(4) 讨论当两个点的夹角非常小时，为什么需要更小的 JL 误差才能保证角度的相对误差较好。

==为什么 CountSketch 需要随机符号==

考虑一个没有随机符号的 CountSketch。对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并令 <math>\Pi_{h(i),i}=1</math>，其他位置为 <math>0</math>。

取向量 <math>x=(1,1,\dots,1)/\sqrt n</math>。

(1) 证明 <math>\mathbb E|\Pi x|_2^2=1+(n-1)/m</math>。

(2) 说明如果 <math>m=o(n)</math>，那么这个没有随机符号的 sketch 对该向量的范数估计会有严重偏差。

(3) 现在考虑标准 CountSketch：对每个 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in{-1,1}</math>，令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。解释随机符号 <math>\sigma_i</math> 如何使不同坐标碰撞产生的交叉项在期望中相互抵消。

(4) 总结随机符号在 CountSketch 中的作用：它并不能避免碰撞，但可以让碰撞带来的误差成为均值为零的随机噪声。

==CountSketch OSE 的 <math>m=O(d^2)</math> 上界==

令 <math>U\in\mathbb R^{n\times d}</math> 是一个列正交矩阵，即 <math>U^\top U=I_d</math>。令 <math>\Pi\in\mathbb R^{m\times n}</math> 是 CountSketch 矩阵：对每个原始坐标 <math>i\in[n]</math>，随机选择桶 <math>h(i)\in[m]</math>，并随机选择符号 <math>\sigma_i\in{-1,1}</math>；然后令 <math>\Pi_{h(i),i}=\sigma_i</math>，其他位置为 <math>0</math>。记 <math>u_i</math> 为 <math>U</math> 的第 <math>i</math> 行，视为 <math>\mathbb R^d</math> 中的列向量。

(1) 证明 <math>\Pi^\top\Pi-I_n</math> 的第 <math>(i,j)</math> 个元素在 <math>i\ne j</math> 时等于 <math>\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j</math>，在 <math>i=j</math> 时等于 <math>0</math>。

(2) 推出 <math>U^\top\Pi^\top\Pi U-I_d=\sum_{i\ne j}\mathbf 1_{h(i)=h(j)}\sigma_i\sigma_j u_i u_j^\top</math>。

(3) 证明在计算 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]</math> 时，随机符号会使所有交叉项的期望为 <math>0</math>。也就是说，只有同一对 <math>(i,j)</math> 与自身相乘的项会保留下来。

(4) 证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|*F^2]\le \frac{1}{m}\sum*{i\ne j}|u_i|_2^2|u_j|_2^2</math>。

(5) 使用 <math>\sum_i|u_i|_2^2=|U|_F^2=d</math>，证明 <math>\mathbb E[|U^\top\Pi^\top\Pi U-I_d|_F^2]\le d^2/m</math>。

(6) 用 Markov 不等式证明，如果 <math>m\ge d^2/(\epsilon^2\delta)</math>，那么以概率至少 <math>1-\delta</math>，有 <math>|U^\top\Pi^\top\Pi U-I_d|_F\le \epsilon</math>。

(7) 证明如果 <math>|U^\top\Pi^\top\Pi U-I_d|_2\le \epsilon</math>，那么对所有 <math>x\in\mathbb R^d</math> 都有 <math>(1-\epsilon)|Ux|_2^2\le |\Pi Ux|_2^2\le (1+\epsilon)|Ux|_2^2</math>。并解释为什么第 (6) 问中的 Frobenius norm bound 足以推出 spectral norm bound。

(8) 总结：说明 CountSketch 虽然每一列只有一个非零元素，但当 <math>m=O(d^2/(\epsilon^2\delta))</math> 时，仍然可以作为一个 <math>d</math> 维子空间的 Oblivious Subspace Embedding。