在Databricks中创建SQL表,您需要遵循以下步骤:
from pyspark.sql import SparkSession
# 创建一个Spark会话
spark = SparkSession.builder \
.appName("Create SQL Table in Databricks") \
.getOrCreate()
# 创建一个DataFrame
data = [("Alice", 1), ("Bob", 2), ("Cathy", 3)]
columns = ["name", "id"]
df = spark.createDataFrame(data, columns)
# 将DataFrame注册为临时表
df.createOrReplaceTempView("people")
# 使用SQL查询创建一个新表
spark.sql("""
CREATE TABLE IF NOT EXISTS people_table
USING parquet
OPTIONS ('compression'='snappy')
AS SELECT * FROM people
""")
# 显示新创建的表
spark.sql("SELECT * FROM people_table").show()
people_table
的SQL表,并使用people
临时表中的数据填充它。spark.sql("DESCRIBE people_table").show()
spark.sql("SELECT * FROM people_table").show()
现在,您已经在Databricks中创建了一个SQL表。请根据需要修改代码示例以适应您的数据和需求。